Errori su informazioni sanitarie: Google interviene su AI Overviews

Negli ultimi mesi, il dibattito sull’affidabilità delle risposte fornite dagli AI Overviews si è intensificato, soprattutto quando si tratta di tematiche delicate come le informazioni sanitarie.

Diverse inchieste giornalistiche hanno portato alla luce casi in cui le risposte generate dall’Intelligenza Artificiale di Google hanno diffuso errori preoccupanti, mettendo a rischio la salute degli utenti e alimentando un clima di crescente sfiducia nei confronti delle tecnologie automatizzate in ambito medico.

Uno degli esempi più emblematici riguarda le raccomandazioni sbagliate relative a diete per pazienti affetti da cancro al pancreas. In alcune occasioni, i riassunti generati hanno suggerito regimi alimentari privi di fondamento scientifico, rischiando di influenzare negativamente le scelte di chi si trova già in una situazione di particolare vulnerabilità.

Altrettanto grave è il caso della decontestualizzazione dei risultati dei test del fegato: le risposte automatiche, spesso, non tengono conto delle variabili cliniche individuali, fornendo interpretazioni generiche e potenzialmente fuorvianti. A ciò si aggiunge la confusione terminologica riscontrata tra Pap test e screening per il cancro vaginale, un errore che potrebbe indurre molte donne a sottovalutare l’importanza di controlli specifici e regolari.

Questi episodi di disinformazione medica non sono semplici incidenti isolati, ma rappresentano la manifestazione di un problema strutturale: la tecnologia alla base degli AI Overviews si basa su modelli linguistici addestrati su grandi quantità di dati, spesso eterogenei e non sempre validati da esperti del settore.

AI Overviews e informazioni sanitarie: la decisione di Google

I filtri implementati per bloccare le risposte errate si sono dimostrati insufficienti, soprattutto perché molte delle query che generano risposte scorrette sono solo varianti di quelle già individuate e segnalate. Le rimozioni selettive e i blocchi temporanei adottati da Google, come la sospensione dei riassunti AI su alcune ricerche sensibili, appaiono dunque come soluzioni parziali, incapaci di affrontare la radice del problema.

La vera criticità risiede nella mancanza di un controllo umano sistematico sui contenuti clinici prodotti dall’AI. Senza la supervisione di personale qualificato, il rischio che vengano veicolate informazioni non corrette rimane elevato, soprattutto in settori ad alto impatto sociale come quello sanitario. Esperti e associazioni di pazienti sottolineano la necessità di interventi più incisivi: la disattivazione delle risposte generative per i domini critici, l’obbligo di verifica da parte di professionisti della salute prima della pubblicazione, la richiesta di fonti certificate e aggiornate, nonché l’introduzione di sistemi automatizzati di fact-checking con soglie di sicurezza rigorose.

Sul fronte normativo, i regolatori stanno valutando la possibilità di introdurre standard condivisi che impongano ai colossi tecnologici di garantire la qualità e la sicurezza delle informazioni sanitarie offerte tramite strumenti di intelligenza artificiale. La collaborazione tra settore medico e settore tecnologico viene vista come un passaggio fondamentale per la definizione di criteri comuni e per la prevenzione di nuovi casi di disinformazione medica. Tuttavia, la complessità e la velocità di evoluzione di questi strumenti pongono sfide continue, richiedendo un aggiornamento costante delle misure di sicurezza e dei protocolli di verifica.

I medici sono ancora insostituibili

In questo scenario, gli utenti si trovano spesso disorientati, incapaci di distinguere tra fonti affidabili e risposte generate automaticamente che possono sembrare autorevoli, ma che in realtà possono contenere errori anche gravi.

È fondamentale ribadire che nessun riassunto, per quanto dettagliato e tempestivo, può sostituire il parere di un professionista della salute, soprattutto in presenza di sintomi o dubbi clinici. La consapevolezza dei limiti di AI Overviews e l’adozione di un approccio critico nella consultazione delle informazioni online rappresentano oggi le uniche vere garanzie per la tutela della propria salute.