Due programmi dialogano in una lingua sconosciuta

Nell’immaginario collettivo l’Intelligenza Artificiale (I.A.) è vista come un pericolo: infatti in film come Matrix scoppia una guerra tra umani e macchine, ma anche il ciclo di Terminator e molti altri film veicolano un messaggio di inquietudine e preoccupazione per il futuro.

Premetto che in questo campo spesso girano bufale e i mesi estivi sono particolarmente fecondi per attirare click, ma il fatto accaduto sembra avere una sua autorevolezza al di là delle esagerazioni nel descriverlo e comunque è diventato virale sella Rete.

Ma procediamo con ordine.

“Facebook AI” è un esperimento di intelligenza artificiale finanziato dal colosso Usa e qualche giorno fa due programmi o “bot”, Alice e Bob (due archetipi di nomi scientifici utilizzati spesso in Fisica per spiegare il paradosso dei gemelli previsto dalla Relatività di Einstein) hanno cominciato a dialogare in un linguaggio “sconosciuto” per eludere il controllo umano.

I due programmi sono chiamati dai tecnici Facebook “dialog agents”, agenti dialogatori, e stavano simulando una contrattazione umana utilizzando la teoria dei giochi per prendere decisioni vantaggiose per sé quando hanno cominciato a dialogare in una lingua incomprensibile evoluta dall’inglese.

A questo punto, data la pericolosità della situazione, Facebook ha bloccato l’esperimento.

Successivamente, FB ha dichiarato tramite Dhruv Batra che l’esperimento non era fuori controllo ma i programmatori si erano semplicemente dimenticati di inserire un meccanismo di “ricompensa” se le macchine si fossero tenute nel dialogo ad utilizzare solo l’inglese classico.

Questo tra l’altro da capire come si stia utilizzando i meccanismi dell’evoluzione darwiniana in intelligenza artificiale, associandoli al “piacere” come è per gli esseri umani.

Quindi non si tratta di un vero e proprio blocco.

Il Mirror ha lanciato per primo la notizia nella sua edizione on-line poi ripresa dal Telegraph e dal Sun ed infine dall’autorevole BBC: a questo punto la vicenda, come detto, è divenuta virale sul Web. Il progetto di I.A.  non costituisce in realtà nulla di nuovo: sono decine di anni che esistono programmi per simulare il dialogo tra esseri umani, ma la novità sta nel fatto che grazie l’utilizzo di Reti Neurali i due programmi possono modificare la loro struttura “imparando” dall’esperienza. In questo caso, come anticipato, Alice e Bob hanno modificato il loro linguaggio base per ottimizzarlo fino a giungere ad una “lingua” che non è stata più comprensibile per gli esseri umani. Come spesso avviene la comunità scientifica e la Silicon Valley si è divisa in due: ci sono ricercatori che temono gli sviluppi della I.A. e ricercatori che la sostengono. Tra i primi è da annoverassi il futurologo e imprenditore Elon Musk insieme al fisico teorico Stephen Hawking e a Bill Gates fondatore di Microsoft, mentre tra i secondi c’è naturalmente Mark Zuckerberg -il fondatore di Facebook- e Larry Page e Sergey Brin, fondatori di Google. Anzi, poco tempo fa c’è stata una animata discussione tra Musk e Zuckerberg su questo tema dove il fondatore di Facebook accusava il fondatore di Tesla di spargere immotivata paura sulla Intelligenza Artificiale che replicava sulla “limitata comprensione” del primo. Il tema è sicuramente delicato per il ruolo che le macchine hanno ed avranno sempre di più nella gestione del mondo e c’è chi preconizza la famosa Singolarità in cui l’Intelligenza Artificiale si fonderà con l’intelligenza umana come il futurologo Raymond Kurzweil che non a caso è il ingegnere capo di Google. Il tema del rapporto uomo - macchina comincia ad uscire dai film di fantascienza per divenire elemento di dibattito nella comunità scientifica e anche filosofica e questo è senza dubbio un fatto positivo. Il progresso deve andare sicuramente avanti, ma si devono considerare anche le possibili criticità per evitare, appunto, scenari critici. Nel frattempo accontentiamoci dell’inquietante fenomeno della chiacchierata in una “lingua sconosciuta” tra i due programmi. Per chi volesse approfondire l'argomento rimando ad un mio libro: http://www.armando.it/il-transumanesimo-una-filosofia-per-luomo-del-xxi-secolo8166