Siri e Gemini, crolla la credibilità degli agenti AI: l'allarme degli esperti

Negli ultimi anni, la corsa verso l’innovazione tecnologica ha reso i smartphone e Intelligenza Artificiale parte integrante della nostra quotidianità.

Tuttavia, mentre affidiamo sempre più spesso le nostre domande, le nostre curiosità e perfino le nostre scelte personali a questi strumenti, emerge una questione che non può più essere ignorata: la credibilità degli assistenti digitali è sempre più messa in discussione, e le ripercussioni di questa crisi rischiano di colpire milioni di utenti inconsapevoli.

Basta un esempio concreto per comprendere la portata del problema: Siri, l’assistente vocale di Apple, è stato più volte accusato di fornire informazioni mediche imprecise, mentre Gemini, la nuova piattaforma di Google, si è resa protagonista nella riproduzione di stereotipi e pregiudizi che riflettono una mancanza di attenzione etica nello sviluppo dei sistemi AI. Questi non sono semplici errori di gioventù, ma segnali di un problema sistemico che si annida nel cuore dell’innovazione tecnologica.

Il dibattito si fa ancora più acceso se si considera che la maggior parte degli utenti si affida a questi assistenti per ottenere risposte su argomenti delicati e complessi: dalla salute alla giurisprudenza, dalla storia alle questioni sociali. Quando una risposta errata o influenzata da bias culturali viene accettata come verità, il rischio di disinformazione diventa concreto e, talvolta, persino pericoloso. La corsa verso l’AGI – l’Intelligenza Artificiale Generale – ha legittimato una tolleranza agli errori che, in altri settori, sarebbe considerata inaccettabile. Si tende a considerare i malfunzionamenti come “tappe obbligate” del progresso, minimizzando l’impatto che questi possono avere sulla società.

AI, bias culturali e disinformazione: pericoli concreti

I sostenitori delle grandi piattaforme tecnologiche sottolineano come lo sviluppo di sistemi così avanzati sia, per sua natura, un processo iterativo. Gli errori, dicono, sono inevitabili e fanno parte del percorso di crescita verso una maggiore autonomia e affidabilità. Ma la posizione di numerosi esperti e critici è ben diversa: esiste una linea di confine netta tra il miglioramento progressivo e il compromesso etico. Quando una funzione di un assistente digitale rischia di causare danni reali – dalla diffusione di informazioni scorrette alla perpetuazione di stereotipi dannosi – è necessario fermarsi e riflettere, piuttosto che giustificare tali problemi come effetti collaterali inevitabili.

Da questa riflessione nasce la proposta di un nuovo modello di sviluppo: costruire delle agentic interface – interfacce in grado di agire e pensare in modo autonomo – senza però sacrificare i principi fondamentali dell’etica e della responsabilità. Questo richiede investimenti significativi in termini di governance, trasparenza e sistemi di controllo: pipeline di validazione dei contenuti, dataset più bilanciati e rappresentativi, audit esterni regolari e politiche chiare di controllo qualità. Solo così si potrà garantire che l’innovazione tecnologica non diventi un pretesto per diffondere prodotti potenzialmente dannosi.

Anche dal punto di vista normativo, qualcosa si sta muovendo. Le autorità per la protezione dei dati e i legislatori stanno introducendo nuovi obblighi di trasparenza per i sistemi di AI che interagiscono direttamente con il pubblico. Questi requisiti non sono più solo auspicabili, ma stanno diventando realtà. Tuttavia, la vera sfida sarà capire se le aziende del settore saranno in grado di tradurre queste regole in pratiche operative concrete, oppure se continueranno a utilizzare la ricerca dell’AGI come alibi per lanciare sul mercato soluzioni non ancora pronte e prive delle necessarie garanzie.

Per gli utenti, il messaggio è chiaro: non bisogna più affidarsi ciecamente alle risposte degli assistenti digitali. È fondamentale informarsi, confrontare le fonti e scegliere consapevolmente quali strumenti utilizzare.