Quella volta che 2 AI crearono una nuova lingua

Se avete letto il titolo pensando fosse un nuovo film di Spielberg vi state sbagliando, anche se ormai sembra sempre più vero il futuro che il regista si era immaginato nell’omonimo film “A.I. Artificial Intelligence“.

Esattamente 2 anni fa è successo un evento straordinario: 2 intelligenze artificiali, create appositamente per “chiacchierare” tra di loro, inventarono una lingua nuova, creando il panico nel quartier generale di Facebook, obbligandoli a spegnere quelli che ormai sembravano due esseri senzienti.

… so i said “balls have zero to me to me to me to me to me to me to me to me to”

Non cominciamo ad allarmarci comunque, non arriverà mai un Arnold Schwarzenegger armato a parlarci in una lingua sconosciuta con un fucile in mano. Ma questo evento può farci riflettere molto su quello che può essere il futuro delle intelligenze artificiali.

Facebook e la sua visione

L’idea di base era ben chiara e anche abbastanza facile: creare un’AI che potesse colloquiare con un suo simile (quindi un’altra copia della stessa AI) per poter negoziare tra loro su un affare e migliorare sempre di più le loro abilità di baratto, in un approccio che sarebbe potuto essere così usato anche con gli umani.

Una demo di come doveva originariamente funzionare l’AI – via Facebook Engineering

Niente male come esperimento, se non fosse per il fatto che gli ingegneri di Facebook, durante la fase di progettazione e costruzione, si sono scordati di obbligare le macchine a parlare un inglese valido e “umano”.

Risultato? Cercando di ottimizzare i discorsi e ottenere più successo durante il baratto, le due AI si sono inventate una “nuova” lingua, molto simile all’inglese ma con dei sistemi grammaticali leggermente diversi.

Ndr, comunque le AI parlano inglese meglio di me

Anche se può sembrare una follia, il fatto che due AI si fossero inventate una nuova lingua non è così grave come sembra. Alla base di questa strana piega fantascientifica c’è un motivo ben valido ed è l’ottimizzazione.

Per quanto al giorno d’oggi i calcolatori siano potenti, è comunque necessario ottenere livelli di ottimizzazione degli algoritmi sempre più alti ed è stato lo stesso per le intelligenze artificiali di Facebook.  Per poter comunicare meglio e soprattutto per ottimizzare la propria rete neuronale nelle loro fasi evolutive, l’uso di una “nuova lingua” è stata la scelta più azzeccata.

Quindi, come si presenterà mai questa nuova lingua creata da delle AI per barattare palloni, berretti e libri? Ecco qui uno spezzone di dialogo:

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Cos’è andato storto quindi?

Tutto sommato, dopo aver visto il dialogo pubblicato da FAIR (Facebook AI Research, la sezione dell’omonimo network che si occupa di sviluppo di Intelligenze Artificiali) si è abbastanza capito che non c’è molto di cui preoccuparsi, però questo ci insegna su cosa bisogna prestare attenzione quando si progetta un’AI.

La scelta “letale” sostanzialmente è stata, oltre ad aver dimenticato il vincolo dell’uso di un inglese corretto, quella di aver lasciato ben due AI ad imparare in maniera “non supervisionata”, ovvero senza un essere umano che controllasse le mosse e l’evoluzione dell’algoritmo delle intelligenze artificiali.

Questo metodo è sicuramente il più rapido per ottenere delle evoluzioni significative, visto che alla fine si arrangia la macchina ad istruirsi, ma al rischio però di ottenere dei risultati completamente deviati dalle aspettative.

Lo screenshot del dialogo che ne è uscito tra le due AI che stavano negoziando.

Ma non è la prima volta…

Un caso analogo (passato di gran lunga in secondo piano) è successo anche al gigante Google ma questa volta il risultato era voluto!

Per migliorare le performance e la compatibilità del proprio motore di traduzione (aka “Google Translate“) hanno sfruttato questa capacità delle AI di manipolare anche la lingua comune, riuscendo a “creare” una sorta di linguaggio che solo l’intelligenza artificiale può capire e usare come un punto di “appoggio” per passare da una lingua ad un’altra.

In altre parole, per eseguire una traduzione, l’intelligenza artificiale di Google interpreta il testo che le viene fornito in ingresso, lo traduce in un suo linguaggio che ha sviluppato appositamente come traduzione universale per poi trasferire il risultato dal linguaggio universale alla lingua desiderata.
E vi avevamo già spiegato come è stato possibile.

Siamo salvi!

Ebbene sì, fortunatamente nessuna Intelligenza Artificiale super muscolosa, con un accento austriaco e vincitore di “Mr. Olympia” ha ancora preso il sopravvento minacciando di distruggere l’umanità.

Alla fine, come in tanti altri progetti informatici, tutto può essere condotto ad un semplice bug, una svista di qualche programmatore che si è scordato un vincolo e niente più.

Però, alla fine, questo evento ci ha insegnato un’ottima lezione: siamo pronti e bravissimi a costruire intelligenze artificiali, e l’immaginazione è il solo limite sulle potenzialità di questa tecnologia, ma dobbiamo imparare a porci un limite, prima che la cosa ci sfugga di mano.

via Gunshow di KC Green – GunShowComic

Per saperne di più:

• Come fa un’intelligenza artificiale a comprendere un testo – Reformer, la nuova e comprensiva AI di Google
• Il progetto “Facebook AI Research” (FAIR) – FAIR
• L’articolo ufficiale di Facebook – Deal or no deal? Training AI bots to negotiate
• Come funziona l’allenamento delle AI non supervisionate – Unsupervised Learning