Caro Bill Gates, sull'AI hai ragione a metà: il problema non è solo quanti lavori spariranno

Caro Bill Gates,

il tuo ultimo intervento sull’intelligenza artificiale parte da una frase difficile da ignorare: l’AI potrebbe diventare “il più grande strumento di uguaglianza mai inventato oppure la peggiore fonte di ingiustizia“. È un’affermazione potente, e in larga parte condivisibile. La diffusione dell’AI sarà probabilmente molto più rapida di quella del personal computer, perché non richiede necessariamente nuovo hardware, nuovi linguaggi o lunghi cicli di formazione: arriva attraverso strumenti che milioni di persone possiedono già e accetta istruzioni formulate nel linguaggio naturale, quello che usiamo tutti i giorni.

Hai ragione anche quando osservi che l’automazione non deve arrivare al 100% per cambiare profondamente il mercato del lavoro. Se 10 persone, grazie all’AI, riescono a produrre quanto prima ne producevano 20, un’azienda può scegliere di raddoppiare ciò che offre oppure di ottenere lo stesso risultato con un organico ridotto. È proprio su queste scelte che si gioca una parte importante del futuro del lavoro.

Ma è anche il punto in cui il tuo ragionamento, IMHO, comincia a diventare troppo lineare.

Produrre più velocemente non significa aver bisogno di meno persone

Citi lo sviluppo software come uno degli ambiti nei quali la trasformazione è già evidente e sostieni che gli sviluppatori possano essere almeno due volte più efficienti grazie all’AI. È plausibile che strumenti di coding assistito abbiano già ridotto enormemente il tempo necessario per produrre boilerplate, scrivere test, cercare informazioni nel codice, documentare funzioni, effettuare refactoring o individuare alcune categorie di errore.

Uno sviluppatore, però, non produce bulloni. Non possiamo misurarne semplicemente la produttività contando le righe di codice generate nell’arco di un’ora.

Una patch può nascere in 5 minuti e richiedere ore per essere verificata. Codice perfettamente compilabile può introdurre una regressione che emergerà soltanto dopo mesi. Un modello può comprendere molto bene una singola funzione e non conoscere le assunzioni architetturali che collegano quella funzione ad altre migliaia di righe.

Linus Torvalds, con cui qualche tempo fa ti sei confrontato per cena, offre da tempo una prospettiva interessante proprio su questo punto. Non respinge l’AI e l’ha utilizzata personalmente anche nell’analisi di bug. La considera utile per esplorare codice, generare ipotesi e ridurre il lavoro ripetitivo ma insiste sulla necessità che qualcuno capisca ciò che il modello produce, lo verifichi e se ne assuma la responsabilità.

Ah,… responsabilità. Che termine cruciale! L’AI non può essere responsabile per la produzione di codice: responsabili sono le figure umane che quel codice lo sovrintendono, lo verificano, lo studiano e lo migliorano.

Non voglio certo confutare la tua tesi: può davvero accadere che servano meno sviluppatori, nel complesso. Tuttavia, l’AI può diminuire drasticamente il costo della produzione del codice senza ridurre nella stessa misura quello necessario per progettare, verificare, integrare, proteggere e mantenere il software.

Il problema delle figure junior in ambito lavorativo

I primi segnali sul mercato del lavoro sembrano indicare che eventuali effetti negativi dell’AI possano colpire in maniera sproporzionata le persone all’inizio della carriera.

Il dato più interessante non è necessariamente il licenziamento di chi già lavora, ma la mancata assunzione di chi avrebbe dovuto entrare.

Prendendo come esempio lo sviluppo software, settore che conosciamo bene, immaginiamo un reparto nel quale rimangano 10 sviluppatori esperti. Nessuno perde il posto. Fino a qualche anno fa, però, l’azienda avrebbe assunto 5 giovani; con strumenti AI più efficienti ne assume soltanto due. Le statistiche dei licenziamenti potrebbero non mostrare alcun terremoto, mentre l’accesso alla professione si sta già restringendo.

Ci sono alcune tipologie di attività che, in qualsiasi campo, rappresentano la palestra che un giovane utilizza per costruire esperienza: se automatizziamo il gradino più basso della scala, come arriveranno al gradino più alto? E, quindi, chi formerà i senior di domani?

I dati di Stanford sono interessanti, ma non sono una sentenza

Nella tua lunga analisi citi segnali provenienti dal mercato del lavoro statunitense: sono dati che meritano sicuramente attenzione. Tra i lavoratori più giovani nelle professioni maggiormente esposte all’AI emerge una divergenza rispetto ai settori meno esposti.

Una correlazione tra esposizione all’AI e andamento dell’occupazione non equivale automaticamente a dimostrare che l’AI abbia causato quella riduzione. Tassi di interesse, rallentamenti settoriali, cambiamenti delle strategie di assunzione e altri fattori possono concorrere allo stesso risultato.

Dire “stiamo osservando un fenomeno compatibile con gli effetti dell’automazione” è corretto; sostenere che “l’AI ha già eliminato il 19% dei posti dei giovani” non lo sarebbe.

Quando sostieni che potranno nascere nuovi lavori ma che, senza interventi, probabilmente saranno “molti meno di oggi“, si sta inevitabilmente facendo ingresso nel campo delle previsioni. Altre previsioni arrivano infatti a risultati quasi opposti: il Future of Jobs Report del World Economic Forum, per esempio, ha prospettato contemporaneamente decine di milioni di lavori destinati a scomparire e un numero ancora maggiore di nuove occupazioni.

Siamo però sempre nel campo delle stime perché non conosciamo l’elasticità della domanda futura.

Se l’AI dimezza il costo necessario per produrre software, potrebbe servire la metà degli sviluppatori per produrre ciò che produciamo oggi. Oppure il mondo potrebbe semplicemente produrre molto più software. Quando la potenza di calcolo è diventata migliaia di volte più economica, non abbiamo deciso che ne serviva meno. Abbiamo iniziato a utilizzare computer in automobili, telefoni, elettrodomestici, ospedali, fabbriche e oggetti che qualche decennio prima non avrebbero avuto alcuna elettronica.

Tassare token e robot rischia di tassare lo strumento invece del problema

Se l’assunzione di una persona in carne e ossa è pesantemente tassata mentre acquistare una macchina offre ammortamenti e vantaggi fiscali, il sistema può incentivare indirettamente la sostituzione del lavoro umano.

Ma una tassa sui token AI apre una quantità impressionante di domande. Dovremmo tassare nello stesso modo il token che un radiologo usa per riassumere una cartella clinica e quello utilizzato da un’azienda per automatizzare migliaia richieste di assistenza clienti?

E un modello open source eseguito localmente? Un software tradizionale che automatizza la stessa operazione ma non utilizza un LLM?

Un robot che sostituisce un lavoratore e uno che evita a quel lavoratore un’attività fisicamente pericolosa sono fiscalmente la stessa cosa?

Il rischio è di tassare l’AI in quanto tecnologia, anziché colpire gli effetti economici negativi che eventualmente produce, come la sostituzione del lavoro umano o la concentrazione dei benefici in poche mani. Il tema è ovviamente degnissimo di essere affrontato, lo strumento proposto – forse – lo è molto meno.

L’allarme sulla sicurezza non si discute

La stessa capacità che permette a un modello di trovare una vulnerabilità può essere usata per sfruttarla. Gli agenti possono concatenare strumenti, cercare informazioni, modificare codice, adattarsi agli errori e continuare un’attività senza richiedere una nuova istruzione umana a ogni passaggio.

Chi attacca deve trovare una strada che funziona; chi difende deve tentare di bloccarle tutte.

Il miglioramento delle capacità AI rende quindi indispensabili sandbox migliori, separazione dei privilegi, controllo degli strumenti, audit e supervisione delle azioni effettuate dagli agenti. Su questo il problema non appartiene al futuro: è già qui.

C’è una domanda che nel tuo ragionamento rimane troppo sullo sfondo: chi possiederà l’AI?

Nel tuo intervento dedichi grande attenzione a redistribuzione, tassazione, regolamentazione e collaborazione internazionale. Ma c’è un aspetto del quale ha parlato poco o nulla.

Chi possiede i modelli?

Chi possiede l’infrastruttura sulla quale girano?

Chi controlla i dati necessari per utilizzarli?

Se l’intelligenza artificiale diventa un’infrastruttura fondamentale per Pubbliche Amministrazioni (PA), scuola, industria e sanità, possiamo davvero accettare che l’accesso alle capacità più importanti dipenda strutturalmente da una manciata di aziende?

Il rischio della concentrazione economica che correttamente individui è collegato direttamente alla concentrazione tecnologica.

Se cinque società possiedono i modelli più capaci, i data center, le GPU, le interfacce attraverso cui accedervi e una quota rilevante dei dati necessari per migliorarli, la questione della distribuzione dei benefici arriva già troppo tardi.

Dobbiamo guardare a un’AI aperta, interoperabile e sovrana

Un’impresa dovrebbe organizzarsi (e quindi disporre delle competenze necessarie) per utilizzare un modello presso la propria infrastruttura quando i dati sono personali, riservati, delicati da trattare. Una PA dovrebbe mantenere un controllo attento sul luogo in cui sono trattate le informazioni dei cittadini.

Un’organizzazione dovrebbe poter sostituire un modello o un fornitore senza dover ricostruire completamente applicazioni e procedure (massima attenzione al problema del lock-in tecnologico).

Standard aperti, interoperabilità, modelli open-weight, inferenza locale, portabilità e sovranità dei dati dovrebbero quindi entrare nella discussione con lo stesso peso attribuito alla tassazione dell’automazione.

Se il tuo obiettivo è davvero impedire che l’AI diventi la peggiore fonte di disuguaglianza mai vista, evitare che l’intera infrastruttura cognitiva futura appartenga a pochissimi soggetti dovrebbe essere parte centrale della soluzione.

Nel 2023 non dicevi che l’AI era una grande rivoluzione?

Non dirigi più Microsoft. Hai lasciato le attività operative da molto tempo e dal 2020 non fai nemmeno più parte del consiglio di amministrazione della società. Non avrebbe senso, quindi, attribuirti direttamente la scelta di integrare Copilot praticamente ovunque, da Windows a Office. Sarebbe una critica banale e facilona.

Va però ricordati che sei stato uno dei sostenitori più autorevoli dell’AI. Nel 2023 definivi l’AI una rivoluzione comparabile a microprocessore, PC, Internet e smartphone e raccontavi di aver seguito con grande interesse OpenAI già molti anni prima dell’esplosione di ChatGPT.

Oggi chiedi alla società di prepararsi rapidamente agli effetti destabilizzanti di una tecnologia la cui accelerazione è stata sostenuta con enorme convinzione proprio dal settore tecnologico dal quale provieni. Non è ipocrisia. Ma sono osservazioni che dovrebbero imporre un supplemento di responsabilità.

Non possiamo trattare l’AI prima come una corsa che nessuna azienda può permettersi di perdere e, subito dopo, i suoi effetti sociali come un problema che governi, scuole e cittadini dovranno assorbire.

Anche i licenziamenti delle Big Tech meritano uno sguardo meno ingenuo

Microsoft, come numerose altre aziende tecnologiche, ha ridotto il personale proprio mentre aumentava gli investimenti miliardari nell’intelligenza artificiale.

Non sono disponibili elementi per dire che migliaia di persone siano state sostituite individualmente da chatbot o agenti. Le aziende parlano di riorganizzazioni, riduzione dei livelli manageriali, riallocazione delle risorse e nuove priorità.

L’AI può modificare il mercato del lavoro senza certificare che un dipendente sia stato sostituito da un modello. Può cambiare le aspettative di produttività, spostare miliardi dagli stipendi alle infrastrutture, ridurre il numero di nuove assunzioni o consentire a gruppi più piccoli di gestire attività precedentemente affidate a strutture più grandi.

Se le aziende tecnologiche ritengono che questa trasformazione sia economicamente straordinaria, devono partecipare anche alla discussione sulle conseguenze che produce. Non soltanto chiedere alla società di gestirle.

La scuola sta sollevando tanti punti interrogativi

L’istruzione è forse il laboratorio più chiaro di ciò che potrebbe succedere anche nel lavoro. Uno studente può usare un modello generativo per chiedere una seconda spiegazione di un concetto difficile, confrontare due argomentazioni, ricevere suggerimenti per migliorare una struttura o trovare errori nel proprio ragionamento. Sono scenari in cui l’AI potenzia l’apprendimento.

Lo stesso studente può chiedere al modello di scrivere direttamente il compito: il risultato potrebbe persino essere formalmente migliore, ma l’alunno non ha svolto il processo cognitivo che l’esercizio avrebbe voluto innescare.

Abbiamo già visto un altro paradosso: l’utilizzo indiscriminato dei detector AI può addirittura spingere gli studenti a produrre deliberatamente testi peggiori per non essere contestati e “messi alla gogna”: “cattivo ragazzo, quel testo è generato artificialmente!…”.

Le posizioni radicali, intransigenti, estremistiche fanno solamente danno: l’AI, ovviamente, non deve fare il lavoro dello studente ma non deve essere neppure eliminata dalla scuola. Serve insegnare come usarla.

Verificare le risposte, confrontare le fonti, individuare allucinazioni, discutere con il modello, modificare il risultato e soprattutto sapere quando non fidarsi. Quella dovrebbe diventare una competenza fondamentale. E vale esattamente allo stesso modo per un programmatore, un medico, un giornalista, un avvocato e un amministratore pubblico!

Forse non dobbiamo proteggere i lavori: dobbiamo proteggere la capacità di decidere

Ed è qui, caro Bill, che forse la tua analisi dovrebbe spingersi un po’ più avanti.

La questione non consiste soltanto nello stabilire quanti posti di lavoro rimarranno nel 2035. È decidere quale rapporto vogliamo avere con le macchine AI-based.

Possiamo costruire un futuro nel quale pochi colossi possiedono i modelli, i dati attraversano le loro infrastrutture, le aziende riducono progressivamente le competenze interne e gli utenti si limitano ad accettare risultati prodotti da sistemi che non comprendono.

L’alternativa è usare l’AI come una leva: modelli aperti quando possibile, interoperabilità, elaborazione locale quando necessaria, controllo sui dati, competenze diffuse, persone che utilizzano l’AI ma continuano a sapere ciò che stanno facendo.

Prima di fare altri ragionamenti, dovremmo assicurarci che l’intelligenza artificiale non diventi un’infrastruttura sulla quale pochi possiedono tutto e tutti gli altri “costruiscono in affitto“. E forse la scelta più importante non sarà decidere quali lavori dichiarare “Human Reserved“, come dici tu. Sarà invece fare in modo che rimanga “Human Reserved” la capacità di capire, verificare e decidere.