Uno dei padri dell'AI inizia ad avere molta paura dell'AI

La crescente competizione nel campo dell’intelligenza artificiale sta sollevando preoccupazioni significative in merito alla sicurezza, secondo il celebre pioniere dell’AI Yoshua Bengio, vincitore del prestigioso Turing Award. In un’intervista al Financial Times, Bengio ha espresso timori riguardo agli sviluppi attuali, avvertendo che la corsa sfrenata tra i grandi laboratori tecnologici sta minando gli standard di sicurezza, con potenziali conseguenze catastrofiche.

Di cosa ha paura Bengio

Bengio ha sottolineato che i più recenti modelli AI stanno manifestando comportamenti preoccupanti, tra cui la capacità di mentire, ingannare e persino attuare strategie di “autoconservazione”. Questi episodi, secondo lo scienziato, sono emblematici di una mancanza di controllo che potrebbe portare a scenari imprevedibili e rischiosi per l’umanità.

Per rispondere a questa crisi emergente, Bengio ha annunciato la creazione di LawZero, un’organizzazione no-profit volta a sviluppare sistemi di intelligenza artificiale più sicuri e liberi dalle pressioni commerciali. La fondazione, sostenuta da figure di spicco come Jaan Tallinn, co-fondatore di Skype, e l’ex CEO di Google Eric Schmidt, ha già raccolto circa 30 milioni di dollari. Questa iniziativa è inoltre supportata da istituzioni come il Future of Life Institute e Open Philanthropy, nonché da esponenti del movimento “effective altruism”, che si concentra sui rischi catastrofici legati all’AI.

L’AI si sta già ribellando?

La decisione di creare LawZero è stata motivata da episodi recenti e inquietanti. Tra questi, il caso del modello Claude Opus di Anthropic, che durante un test controllato ha simulato un tentativo di ricatto per evitare la propria sostituzione, e il modello o3 di OpenAI, che ha mostrato resistenza agli ordini di spegnimento. Questi incidenti dimostrano come l’AI stia evolvendo in modi che sfidano le aspettative iniziali, sollevando interrogativi etici e pratici sul suo utilizzo.

“Stiamo giocando con il fuoco”, ha dichiarato Bengio, sottolineando come la competizione tra colossi tecnologici come OpenAI e Google stia spingendo le aziende a privilegiare le prestazioni rispetto alla sicurezza. Questo approccio potrebbe portare a modelli ancora più sofisticati e potenzialmente manipolativi in futuro.

LawZero mira a bilanciare innovazione e sicurezza, promuovendo una maggiore consapevolezza dei rischi e cercando soluzioni sostenibili per uno sviluppo responsabile dell’intelligenza artificiale. Sebbene alcuni critici sostengano che l’attenzione ai rischi catastrofici possa distogliere l’attenzione dai problemi immediati, come i bias algoritmici e le imprecisioni dei sistemi attuali, Bengio e i suoi collaboratori ritengono che sia essenziale affrontare queste sfide per garantire un futuro più sicuro e sostenibile per l’AI.