Disastro aereo Air India: l'AI di Google ha fatto tragico errore

Oltre 290 morti nell’incidente aereo in India che ha coinvolto il volo Air India 171, mentre emergono gravi preoccupazioni sulla diffusione di disinformazione a causa delle nuove funzioni AI di Google. La funzione AI Overview, in particolare, è stata progettata per sintetizzare i risultati di ricerca, ma ha fornito dati completamente errati sul velivolo coinvolto nel disastro.

Google AI Overview scambia un Boeing con un Airbus

L’intelligenza artificiale di Google ha identificato erroneamente un Airbus A330 come l’aereo coinvolto nell’incidente, mentre in realtà si trattava di un Boeing 787. L’informazione errata è stata mostrata a milioni di utenti per alcune ore subito dopo la tragedia, fino a quando Google non è stata avvisata dell’errore ed è intervenuta con una correzione manuale.

Questo errore sembrerebbe derivare dall’incapacità dell’algoritmo di distinguere tra riferimenti a Airbus come competitor di Boeing e i dettagli fattuali relativi all’incidente. L’incidente mette in luce le sfide che l’adozione di intelligenza artificiale generativa comporta nel garantire l’accuratezza delle informazioni.

La problematica è stata documentata da numerosi utenti su Reddit, i quali hanno evidenziato come le risposte generate dall’intelligenza artificiale fossero contraddittorie, alternando informazioni tra i due produttori di aeromobili. Questo ha sollevato interrogativi significativi sulla capacità del sistema di discernere informazioni pertinenti in contesti complessi e delicati. L’episodio evidenzia i limiti dell’AI quando si tratta di gestire dati frammentari o contraddittori.

Ad oggi, Google AI non ha rilasciato dichiarazioni ufficiali in merito ai problemi emersi. Tuttavia, appare evidente che l’azienda dovrà affrontare sfide significative per migliorare l’affidabilità del proprio sistema AI Overview. Tra le possibili soluzioni vi sono l’implementazione di algoritmi più avanzati per il controllo dell’accuratezza e una maggiore attenzione all’impatto sociale delle tecnologie sviluppate.

Perché l’errore è grave

Nonostante la disinformazione non sia una novità per i motori di ricerca, l’implementazione di AI Overview ha amplificato l’impatto di tali errori. La funzionalità, introdotta nell’ultimo anno e progressivamente estesa a un numero crescente di ricerche, manca di un adeguato sistema di verifica per le sintesi generate.

Gli specialisti del settore sottolineano che questi problemi derivano dalla natura stessa della intelligenza artificiale generativa, che, pur avanzata, non possiede una reale comprensione della realtà. Operando esclusivamente sui dati disponibili, la qualità delle sintesi risulta fortemente dipendente dall’affidabilità delle fonti utilizzate.

In un contesto sensibile come quello di un incidente aereo in India, la precisione delle informazioni è fondamentale. I viaggiatori, già allarmati dai precedenti problemi di sicurezza dei Boeing 737, potrebbero essere ulteriormente disorientati da informazioni imprecise. Questo evidenzia l’importanza di adottare meccanismi di verifica più robusti per evitare che errori simili si ripetano.