Intelligenza artificiale, l'esperto: "Fermiamola o a breve saremo tutti morti"

Yudkowsky: “La moratoria sulle nuove grandi corse di addestramento deve essere a tempo indeterminato e mondiale. Non ci possono essere eccezioni, nemmeno per governi o militari. Se la politica inizia con gli Stati Uniti, allora la Cina deve vedere che gli Stati Uniti non cerca un vantaggio, ma piuttosto cerca di prevenire una tecnologia orribilmente pericolosa che non può avere un vero proprietario e che ucciderà tutti negli Stati Uniti, in Cina e sulla Terra”. Chi guida gli Stati e può esercitare il potere dovrebbe mettere l’AI come priorità assoluta.

Yudkowsky: “Se avessi la libertà infinita di scrivere leggi, potrei ritagliarmi un'unica eccezione per le IA addestrate esclusivamente a risolvere problemi di biologia e biotecnologia, non addestrate su testi Internet e non al livello in cui iniziano a parlare o pianificare; ma se ciò complicasse lontanamente la questione, scarterei immediatamente questa proposta e direi di chiudere tutto”.