Bill Gates avverte sull'AI: senza controlli il rischio cresce

Bill Gates torna a parlare dei rischi legati all’Intelligenza Artificiale e lo fa chiedendo che le misure di sicurezza non restino affidate soltanto alle aziende.

In un’intervista a NBC News, il cofondatore di Microsoft ha sostenuto che ogni sistema AI dovrebbe disporre di salvaguardie e capacità di monitoraggio, con un ruolo diretto per legislatori e forze dell’ordine nella definizione dei requisiti.

La sua preoccupazione principale non riguarda soltanto scenari nei quali una macchina agisce autonomamente, ma l’uso intenzionale di strumenti avanzati da parte di persone che vogliono provocare danni. Il tema arriva mentre il settore discute se rallentare lo sviluppo, introdurre controlli esterni e definire obblighi applicabili ai fornitori.

Gates vede il rischio soprattutto nell’uso criminale

Durante l’intervista a Meet the Press, Gates ha indicato come pericolo più immediato l’impiego dell’AI da parte di soggetti malintenzionati.

Tra gli esempi citati figurano il bioterrorismo e le frodi finanziarie su larga scala. La sua posizione parte quindi da una distinzione importante: il rischio non deriva necessariamente da un sistema che decide autonomamente di agire contro gli esseri umani, ma dalla combinazione tra capacità tecnologiche sempre più avanzate e intenzioni criminali.

Gates ha definito irresponsabile non imporre a ogni sistema AI adeguate funzioni di sicurezza e monitoraggio. Ha inoltre respinto l’idea che l’autoregolamentazione dell’industria possa rappresentare una risposta sufficiente, sostenendo la necessità di coinvolgere direttamente politica e forze dell’ordine. Secondo la sua valutazione, l’introduzione di questi requisiti comporterebbe costi e attività aggiuntive per le aziende, senza necessariamente fermare lo sviluppo tecnologico.

Tra le ipotesi discusse pubblicamente c’è anche quella di un kill switch, cioè un meccanismo capace di interrompere il funzionamento di determinati sistemi. Gates non ha escluso questa possibilità, ma ha osservato che un simile strumento non risolverebbe il problema che considera più urgente: impedire che persone intenzionate a commettere reati sfruttino capacità avanzate per amplificare le proprie azioni. La questione diventa quindi quella di controllare l’accesso, osservare gli utilizzi e conservare informazioni utili alle indagini.

Il dibattito riguarda anche lavoro e responsabilità

Le dichiarazioni sulla sicurezza si inseriscono in una discussione più ampia che Gates ha sviluppato anche sul futuro del lavoro L’impatto dell’AI non può essere valutato soltanto contando i posti di lavoro eventualmente eliminati. La produttività può aumentare senza produrre una riduzione proporzionale dell’organico, perché le aziende potrebbero utilizzare la maggiore capacità per offrire più servizi o sviluppare nuovi prodotti.

Se le attività più ripetitive vengono automatizzate, diminuiscono anche alcune occasioni attraverso cui i lavoratori junior costruiscono esperienza. La conseguenza potrebbe quindi emergere nelle assunzioni future più che nei licenziamenti immediatamente osservabili.

Il collegamento tra sicurezza e lavoro porta a una questione ancora più ampia: chi utilizza l’AI deve poter verificare ciò che produce. Nello sviluppo software, per esempio, generare rapidamente codice non elimina la necessità di comprenderlo, testarlo e mantenerlo. Nasi richiama proprio questo aspetto nella sua analisi, sostenendo che la responsabilità delle decisioni non possa essere trasferita al modello.

La richiesta di Gates acquista così un significato che supera la semplice introduzione di nuovi controlli tecnici. La vera sfida consiste nel definire responsabilità verificabili lungo tutta la catena, dal fornitore che sviluppa il modello fino all’organizzazione che lo integra in un servizio.