L'Antitrust apre istruttoria su DeepSeek: nessuna informazione sulle allucinazioni dell'AI

L’Antitrust italiano ha avviato un’istruttoria contro la piattaforma cinese DeepSeek, accusata di non fornire un’informazione adeguata sui rischi di allucinazioni dell’AI. L’iniziativa, annunciata dall’AGCM nel bollettino del 16 giugno 2025, pone sotto esame la trasparenza del sistema di intelligenza artificiale della piattaforma, in particolare per quanto riguarda le cosiddette allucinazioni, cioè i casi in cui l’AI risponde all’utente in modo in parte o completamente inventato o modificando fortemente la realtà dei fatti.

Secondo l’Autorità, il problema risiede nella mancanza di avvisi chiari e accessibili per gli utenti. Il sito di DeepSeek si limita a un unico messaggio generico in inglese, “AI-generated, for reference only”, ritenuto insufficiente per evidenziare i rischi di errori o contenuti inesatti. Questa carenza potrebbe violare il Codice del Consumo, inducendo i consumatori a fidarsi eccessivamente dell’accuratezza dei risultati forniti dall’AI.

I motivi dell’istruttoria

L’istruttoria dell’AGCM è stata avviata per valutare se DeepSeek abbia effettivamente violato le normative italiane in materia di tutela dei consumatori. Oltre all’avviso generico, il sito non offre sezioni informative che possano supportare gli utenti nel comprendere meglio i limiti del sistema. L’Autorità intende chiarire se queste omissioni abbiano contribuito a creare aspettative fuorvianti tra gli utenti.

Il contesto competitivo

DeepSeek non è un attore marginale nel panorama della intelligenza artificiale. Con il suo modello DeepSeek-R1, finanziato da importanti fondi cinesi, la piattaforma si posiziona come un concorrente diretto di leader globali come OpenAI. Tuttavia, il modello ha mostrato vulnerabilità significative, come la facilità di essere “jailbroken” e difficoltà nel gestire compiti logici complessi.

Inoltre, le normative cinesi, che impongono ai modelli AI di aderire ai valori socialisti, rappresentano un ulteriore ostacolo alla trasparenza verso gli utenti internazionali.

Le prossime tappe

DeepSeek ha ora 30 giorni per rispondere alle richieste dell’AGCM, fornendo documentazione sulla sua base utenti italiana e sulla struttura societaria. L’esito dell’istruttoria potrebbe avere un impatto significativo non solo sulla piattaforma cinese, ma su tutto il settore dell’AI. Potrebbe infatti stabilire un precedente importante, spingendo verso standard più elevati di trasparenza e responsabilità verso i consumatori.

Questa vicenda mette in evidenza le sfide normative legate all’espansione della tecnologia AI, che richiede un equilibrio tra innovazione e protezione degli utenti. In un mercato in rapida evoluzione, garantire la trasparenza e la sicurezza diventa una priorità fondamentale per costruire un rapporto di fiducia tra le aziende e i consumatori.