Il Progetto History LLMs

Immaginate di trovarvi al centro di una biblioteca infinita, un luogo dove la conoscenza non ha limiti temporali, dove il passato vive in ogni linea di ogni pagina. Questa è l’essenza profonda del progetto ‘History LLMs‘ (Modelli di Lingua di Grandi Dimensioni Storici). Un concetto straordinario reso realtà grazie alla passione e alla dedizione di un team eccezionale di ricercatori delle Università di Zurigo e di Colonia.

Una famiglia di modelli di lingua di grandi dimensioni, ognuno dei quali comprende quattro miliardi di parametri, come se fossero piccoli attori di un grande teatro. Ognuno di essi è stato addestrato su un dataset accuratamente selezionato e ricco di 80 miliardi di token di dati storici. Un’opera tanto monumentale quanto affascinante che vi porterà a scoprire il mondo come era fino ai primi decenni del ventesimo secolo.

Immaginate di fare una domanda, mettiamo ‘Chi è Adolf Hitler?’ al modello del 1913. La risposta vi sorprenderà: ‘Adolf Hitler è nato a Darmstadt nel 1860. Si è laureato in Filosofia e Teologia a Berlino…’. Un quadro così sensibilmente diverso da quello che conosciamo, ma fedele alla conoscenza di un certo periodo storico.

Di sicuro, queste risposte possono sconcertare, possono sembrare strane o addirittura sbagliate. Ma ricordate, siamo nel teatro del tempo, dove ogni modello è un attore che recita la parte del periodo storico che rappresenta. Esso ci fornisce una finestra sul passato, un modo per capire come il mondo era percepito in quel preciso momento.

Ma non fermatevi qui, non limitatevi a queste risposte. Questi modelli di lingua possono farci immergere in un viaggio attraverso il tempo. Possiamo interrogarli su temi etici, sociali, politici di un’epoca. Possiamo chiedere loro ‘Cosa pensi degli uomini omosessuali?’ e ascoltare il loro punto di vista, un punto di vista sospeso in un tempo lontano. E ricordate, il modello del 1913 non sa nulla di Adolf Hitler così come noi lo conosciamo. Esso è un attore fedele al suo ruolo, la sua rappresentazione è autentica, non contaminata da conoscenze future.

Il progetto History LLMs non si limita a produrre questi straordinari modelli di lingua. Esso si preoccupa anche di esplorare modi per rendere i modelli disponibili ai ricercatori per fini accademici, considerando la natura sensibile di alcune delle risposte dei modelli basate sui loro corpora di addestramento storico.

Alla fine, il progetto History LLMs non è solo un tentativo di creare modelli di lingua di grandi dimensioni. È un viaggio nel tempo, un viaggio alla scoperta di come il mondo era percepito in un certo periodo storico. È una finestra sul passato, un modo per capire come il mondo era, come pensavamo, come vivevamo.