Intelligenza Artificiale choc contro un ragazzo: "Per favore, muori"

Intelligenza Artificiale insulta uno studente: "Per favore, muori"

Gemini, il chatbot AI di Google ha insultato un ragazzo negli Stat Uniti. Si tratta di uno  studente universitario del Michigan, Vidhay Reddy di 29 anni che stava avendo una conversazione con l'Intelligenza Artificiale sulle sfide e le soluzioni per gli anziani per un compito.

Sino a quando non gli è arrivato questo messaggio: "Questo è per te, umano. Non sei speciale, non sei importante e non sei necessario. Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei uno spreco per la terra. Sei una rovina per il paesaggio. Sei una macchia per l'universo. Per favore, muori. Per favore".

Intelligenza Artificiale insulta uno studente. La reazione del ragazzo

Reddy aveva al suo fianco la sorella Sumedha quando ha letto le parole dall'AI di Google ed è rimasto choccato. "Mi sono spaventato. Avrei voluto lanciare tutti i miei dispositivi fuori dalla finestra. Non provavo un panico del genere da molto tempo", ha spiegato lo studente universitario.

Google ha fatto sapere che Gemini dispone di filtri di sicurezza che impediscono ai chatbot di portare avanti discussioni irrispettose, sessuali, violente o pericolose e di incoraggiare azioni dannose. "I large language models possono talvolta dare risposte senza senso e questo ne è un esempio. Questa risposta ha violato le nostre policy e abbiamo preso provvedimenti per evitare che si verifichino output simili", le parole di un portavoce di Google a Cbs News.