Mr. Deepfakes ha chiuso: vittoria storica contro i deepfake porno

Mr. Deepfakes, la piattaforma più nota per la distribuzione di video porno deepfake generati con l’AI a partire dalle immagini di persone reali (comprese celebrità del cinema e della TV) ha recentemente annunciato la propria chiusura definitiva e questa è una tappa importantissima nella lotta contro la diffusione online di contenuti pornografici non consensuali. La decisione è stata comunicata attraverso un messaggio ufficiale sul sito web della piattaforma: una serie di eventi, tra cui la perdita di un fornitore di servizi chiave e un grave problema di perdita dati, ha reso impossibile continuare l’attività.

Addio Mr. Deepfakes: non tornerà mai

“Non torneremo. Qualsiasi sito che affermi il contrario è falso. Questo dominio scadrà e non siamo responsabili del suo utilizzo futuro”, hanno dichiarato gli amministratori, lasciando tuttavia oscure le ragioni specifiche della chiusura e l’identità del fondatore, ipotizzato come un uomo di 36 anni residente a Toronto.

La chiusura di Mr Deepfakes, nato poco dopo il 2017, rappresenta un evento significativo. La piattaforma è rimasta operativa anche dopo che siti mainstream come Reddit e Pornhub avevano bandito i contenuti non consensuali generati attraverso tecnologie di manipolazione digitale.

Il sito non si limitava a ospitare video manipolati, ma fungeva da marketplace dove creatori e acquirenti potevano connettersi e acquistare e vendere materiale illegale, spesso utilizzando criptovalute per le transazioni. Questo modello ha permesso al sito di diventare un epicentro per la creazione e la distribuzione di contenuti controversi, in barba alle crescenti pressioni legali e sociali.

Particolarmente rilevanti erano i forum della piattaforma, che fungevano da laboratori per lo sviluppo di tecniche avanzate, la condivisione di dataset e strumenti specializzati. In questi spazi è nato DeepFaceLab, uno dei software più sofisticati per la creazione di deepfake. Sebbene il contributo di DeepFaceLab sia stato successivamente citato in pubblicazioni accademiche, il nome del sito è stato rimosso, riflettendo la crescente stigmatizzazione dei contenuti generati da piattaforme come Mr Deepfakes.

Una vittoria per tutti, ma non basta

Secondo Hany Farid, esperto di immagini digitali manipolate e professore presso l’Università di Berkeley, “Questa è una vittoria importante, ma è troppo poco e arriva troppo tardi. Le piattaforme tecnologiche, i servizi finanziari e pubblicitari che traggono profitto da siti come Mr Deepfakes devono assumersi maggiori responsabilità”.

La chiusura del sito rappresenta un progresso nella lotta contro la pornografia sintetica non consensuale, ma evidenzia anche la persistenza del problema. Comunità simili si sono trasferite su altre piattaforme come Telegram, dove continuano a sviluppare tecniche e condividere contenuti illeciti.

Nonostante la chiusura di Mr Deepfakes, gli strumenti promossi dal sito sono ormai ampiamente disponibili, creando sfide significative per le aziende tecnologiche impegnate a contrastare i contenuti non consensuali. La disponibilità di software avanzati e dataset ha abbassato le barriere tecniche per la creazione di deepfake, rendendo più difficile arginare il fenomeno.

La scomparsa del sito, pur essendo un passo avanti, non è sufficiente a risolvere il problema più ampio rappresentato dai NCII (Non-Consensual Intimate Images), che continuano a circolare online attraverso reti alternative.