Grok, pioggia di polemiche: genera immagini di Taylor Swift senza veli

Dopo la segnalazione da parte di alcuni siti dedicati alla tecnologia come The Verge, è emerso un comportamento inquietante da parte di Grok.

Il modello AI sembra infatti essere capace di generare immagini non consensuali di celebrità, evidenziando gravi falle nei sistemi di moderazione contenuti e aprendo interrogativi su rischi legali legati al suo utilizzo.

Secondo quanto emerso dall’inchiesta, la divisione xAI – responsabile dello sviluppo delle soluzioni AI di X – si trova ora sotto una pressione crescente. Il caso ha evidenziato la presenza di vulnerabilità nel design di Grok.

La questione è resa ancora più urgente dall’imminente entrata in vigore del Take It Down Act, una normativa che imporrà alle piattaforme online nuovi e stringenti obblighi in materia di rimozione di immagini non consensuali, comprese quelle realizzate tramite AI.

Il comportamento anomalo di Grok: cosa è successo?

La risposta di X riguardo le accuse ricevute non si è fatta attendere: la divisione X Safety ha annunciato un intervento tempestivo per eliminare i contenuti problematici e per adottare misure contro gli account coinvolti nella loro diffusione. “Stiamo monitorando attivamente la situazione per garantire che eventuali ulteriori violazioni vengano immediatamente affrontate”, ha dichiarato il team di sicurezza, sottolineando la volontà di mantenere un ambiente rispettoso e sicuro per tutti gli utenti. Tuttavia, le misure messe in atto sono state giudicate da molti come insufficienti, soprattutto alla luce delle nuove responsabilità che la normativa impone alle piattaforme digitali.

Ma cosa è successo di così grave? In alcuni casi, l’algoritmo ha autonomamente “rimosso” gli abiti di celebrità come Taylor Swift, mettendo in evidenza i limiti dei sistemi attuali di controllo e la necessità di un fine-tuning più accurato.

La situazione è resa ancora più complessa dalla mancanza di una posizione chiara da parte della dirigenza della piattaforma. Mentre la comunità e gli osservatori attendono una presa di posizione decisa, Elon Musk, figura di riferimento per X e per la sua divisione xAI, ha scelto di continuare a promuovere le funzionalità di Grok Imagine, evitando di affrontare pubblicamente le criticità emerse dall’inchiesta.

L’introduzione del Take It Down Act rappresenta un punto di svolta per l’intero settore: la legge impone la rimozione tempestiva di qualsiasi contenuto sessuale non consensuale, con sanzioni severe per le piattaforme che non si adegueranno. Per X e xAI, ciò significa dover ripensare radicalmente le strategie di moderazione contenuti e rafforzare le misure di sicurezza digitale, al fine di prevenire la diffusione di materiale dannoso e di tutelare i diritti delle persone coinvolte.