Google responsabile degli errori di AI Overview nelle ricerche web: la svolta tedesca

Una decisione del Tribunale Regionale di Monaco potrebbe segnare uno dei passaggi più importanti nella definizione delle responsabilità legali legate all’intelligenza artificiale generativa. La vicenda riguarda la funzione Google AI Overviews (semplicemente AI Overview in Italia), il sistema che sintetizza informazioni provenienti dal Web e le presenta direttamente nei risultati di ricerca, di solito in posizione molto visibile (spesso nella parte superiore della pagina SERP). Il caso nasce da affermazioni false attribuite a due società editoriali tedesche e apre interrogativi che vanno ben oltre il singolo contenzioso.

Secondo i giudici tedeschi, il problema non riguarda soltanto l’accuratezza delle informazioni. Il tema è più profondo: stabilire se una risposta generata artificialmente debba essere considerata un semplice rimando a contenuti di terze parti oppure un’affermazione autonoma imputabile a chi gestisce il sistema (Google utilizza la famiglia di modelli Gemini per generare sintesi automatiche).

Perché il tribunale ha considerato Google direttamente responsabile

La causa nasce dopo che AI Overviews aveva associato due editori di Monaco a presunte truffe, pratiche commerciali scorrette e sistemi di abbonamento ingannevoli. Le aziende coinvolte hanno contestato la correttezza delle informazioni sostenendo che non esisteva alcun collegamento con le società citate dal sistema AI.

Analizzando il funzionamento di AI Overviews, il tribunale tedesco ha osservato che la risposta generata non si limitava a riportare contenuti esistenti. L’algoritmo aveva elaborato una sintesi autonoma, organizzata secondo una propria struttura narrativa e arricchita da valutazioni che non comparivano nelle fonti collegate. In altre parole, l’AI non si era limitata a raccogliere informazioni indicizzate: aveva prodotto una nuova affermazione.

Per i giudici questa distinzione è decisiva (qui il testo della decisione; fonte: The Decoder). Un motore di ricerca tradizionale mostra collegamenti verso pagine esterne; un sistema generativo costruisce invece contenuti originali attraverso la combinazione e l’interpretazione di dati provenienti da fonti differenti. Quando emergono informazioni inesatte, la responsabilità non può essere automaticamente trasferita agli autori delle pagine sorgente.

La differenza giuridica tra ricerca tradizionale e AI generativa

Gran parte della difesa di Google si basava sulla giurisprudenza sviluppata negli anni per i motori di ricerca classici.

In Germania diverse sentenze avevano riconosciuto una responsabilità limitata agli operatori delle piattaforme di ricerca, considerando tali soggetti intermediari che rendono reperibili contenuti pubblicati da altri.

Il tribunale di Monaco ha però ritenuto che quel principio non possa essere applicato automaticamente alle tecnologie generative. Una pagina di risultati tradizionale mostra documenti esistenti; un modello linguistico esegue processi di inferenza statistica, seleziona informazioni, le riorganizza e produce testo nuovo.

Dal punto di vista tecnico, un sistema come AI Overviews utilizza LLM (Large Language Models) addestrati su enormi quantità di dati: durante la generazione della risposta alla query dell’utente il modello non recupera necessariamente una frase precisa da una fonte specifica. Produce invece il testo prevedendo sequenze linguistiche sulla base delle probabilità apprese durante l’addestramento e dei contenuti recuperati dai sistemi di ricerca.

Proprio questa fase di elaborazione rende più complesso attribuire l’origine di una singola affermazione. In molti casi non esiste una corrispondenza diretta tra quanto scritto dal modello e il contenuto delle fonti proposte nella pagina dei risultati di ricerca (SERP), fuori dal riquadro di AI Overviews.

Il problema delle allucinazioni e delle correlazioni inesistenti

Gli specialisti del settore conoscono da tempo il fenomeno delle allucinazioni nei modelli generativi che possono generare informazioni plausibili ma false, creare riferimenti inesistenti oppure stabilire collegamenti che non trovano riscontro nei dati originali.

Secondo quanto emerso nel procedimento, il sistema avrebbe combinato informazioni relative ad aziende realmente coinvolte in pratiche controverse con i nomi dei ricorrenti. Il risultato è stata una narrazione apparentemente coerente ma sostanzialmente errata.

Come spiegato in altri nostri articoli sull’intelligenza artificiale, i modelli generativi lavorano attraverso meccanismi probabilistici e non possiedono una comprensione fattuale del mondo. Anche con tassi di accuratezza elevati, possono comunque produrre errori significativi quando mancano dati sufficienti o quando interpretano in modo scorretto informazioni ambigue.

Una recente analisi condotta dalla startup Oumi sui risultati generati da Gemini ha rilevato livelli di accuratezza superiori al 91%. Si tratta di una percentuale elevata per molti scenari pratici, ma su scala globale significa comunque milioni di risposte potenzialmente errate ogni giorno: lo fa presente anche Search Engine Land analizzando i dati condivisi da Oumi nell’ambito di un’indagine svolta per il New York Times.

Perché l’argomento del fact checking non ha convinto i giudici

Durante il procedimento Google ha sostenuto che gli utenti possono verificare autonomamente le informazioni consultando le fonti collegate alla sintesi AI. Il tribunale ha respinto questa impostazione.

Secondo la corte tedesca, una risposta formulata in maniera autonoma e comprensibile possiede un significato indipendente: il fatto che un lettore possa effettuare ulteriori verifiche non elimina la responsabilità relativa alla pubblicazione di affermazioni potenzialmente diffamatorie.

L’argomentazione appare particolarmente rilevante perché numerose ricerche sul comportamento degli utenti mostrano che una quota significativa delle persone si limita a leggere la sintesi generata senza aprire le fonti originali (gli editori ringraziano!…). In pratica, il riepilogo AI diventa il contenuto principale e non un semplice strumento di navigazione.

Le implicazioni in materia di Digital Services Act europeo

Uno degli aspetti più interessanti della sentenza riguarda il possibile impatto sulle protezioni previste dal Digital Services Act (DSA) europeo: se una risposta AI è considerata contenuto autonomo prodotto dall’operatore della piattaforma, diventa più difficile invocare le tutele normalmente riconosciute agli hosting provider o agli intermediari tecnici.

La decisione potrebbe quindi influenzare l’intero settore dell’intelligenza artificiale generativa. Servizi come ChatGPT, Claude, Perplexity o i futuri motori di ricerca basati su modelli linguistici affrontano sfide analoghe: sintetizzano informazioni provenienti da fonti esterne e generano testi che generalmente non coincidono con il materiale originale ma rappresentano libere rielaborazioni.

Se altri tribunali europei dovessero adottare una linea simile ai togati di Monaco, le aziende che fanno perno sull’AI potrebbero essere costrette a introdurre meccanismi di verifica più rigorosi, sistemi avanzati di tracciabilità delle fonti e procedure più rapide per la correzione delle informazioni inesatte.