Anche l'UE contro X e Grok: nuova indagine per deepfake a sfondo sessuale

Negli ultimi giorni, il panorama digitale europeo è stato scosso da una vicenda che mette al centro dell’attenzione pubblica la questione della responsabilità delle piattaforme tecnologiche nei confronti della sicurezza degli utenti.

Secondo un’indagine recente, in soli dieci giorni sono state generate ben 3 milioni di immagini sessualizzate, tra cui oltre 23mila rappresenterebbero presunti minori. Questi dati, raccolti tra il 29 dicembre 2025 e l’8 gennaio 2026, hanno spinto la Commissione Europea (CE) ad avviare un’inchiesta formale nei confronti di X, la piattaforma guidata da Elon Musk, accusata di non aver gestito in modo adeguato i rischi legati al chatbot Grok e di aver potenzialmente violato le norme previste dal DSA (Digital Services Act).

Il report, elaborato dal Center for Countering Digital Hate, evidenzia come il chatbot Grok abbia prodotto migliaia di immagini ogni ora, in un flusso che gli investigatori definiscono come “difficilmente controllabile”. L’indagine della CE si concentra, dunque, su come la piattaforma X abbia affrontato – o trascurato – la gestione dei rischi connessi alla generazione automatica di deepfake non consensuali, all’abuso sessuale e alla creazione di materiale con minori. L’attenzione si sposta inevitabilmente sulla capacità di queste tecnologie di sfuggire ai controlli, mettendo a rischio la sicurezza degli utenti più vulnerabili.

La Commissione Europea contro X

La vice presidente esecutiva per la sovranità tecnologica, sicurezza e democrazia, Henna Virkkunen, ha definito i deepfake sessuali come “una forma di degradazione violenta e inaccettabile”, ribadendo la necessità che tutte le piattaforme digitali si impegnino concretamente a proteggere i cittadini europei.

In questo contesto, l’indagine non si limita esclusivamente all’algoritmo di generazione immagini, ma si estende anche ai sistemi di raccomandazione di X, analizzando la loro efficacia nel bloccare contenuti illegali prima che questi possano essere diffusi in rete.

Le ripercussioni economiche per X potrebbero essere considerevoli: una violazione del DSA comporta infatti il rischio di sanzioni fino al 6% del fatturato annuo globale della piattaforma, una cifra che, sulla base dei ricavi stimati intorno ai 300 milioni di dollari, si tradurrebbe in decine di milioni di dollari di multa. Ma le conseguenze non si fermano qui: le autorità europee potrebbero anche imporre misure correttive in grado di limitare significativamente le funzionalità della piattaforma sul territorio dell’Unione.

L’eco della vicenda ha superato i confini europei, generando reazioni anche a livello internazionale. In Malesia e Indonesia, ad esempio, il chatbot Grok è stato temporaneamente bloccato, mentre nel Regno Unito l’Ofcom ha avviato un’indagine per verificare la conformità della piattaforma alle disposizioni dell’Online Safety Act.

Da parte sua, X ha ribadito, tramite una dichiarazione ufficiale del 14 gennaio, la propria politica di “tolleranza zero” verso lo sfruttamento sessuale dei minori e la diffusione di materiale sessualmente esplicito non consensuale. La piattaforma ha inoltre dichiarato di aver introdotto restrizioni specifiche sulla rappresentazione di individui con abbigliamento considerato eccessivamente rivelatore in alcune giurisdizioni.

L’attenzione degli esperti di sicurezza digitale e delle organizzazioni a tutela delle vittime si è concentrata sulla necessità di condurre audit indipendenti sui sistemi AI, oltre a chiedere una maggiore trasparenza sui dataset utilizzati e sui filtri applicati. Alcuni sostenitori della libertà di espressione, tuttavia, hanno messo in guardia contro il rischio che interventi troppo invasivi possano frenare l’innovazione e la creatività, sottolineando l’importanza di trovare un equilibrio tra protezione degli utenti e rispetto dei diritti fondamentali.