Chat Control, l'UE torna sulla scansione delle chat private

La battaglia europea sul provvedimento noto come Chat Control torna in una fase delicata: il problema è che una misura pensata per intercettare reati può trasformarsi, se scritta male, in un obbligo tecnico di controllo preventivo su messaggi, email, chat, allegati e servizi di hosting usati ogni giorno da centinaia di milioni di persone.

Nel 2021 l’Unione Europea approvò una deroga temporanea alla direttiva ePrivacy, nota tra i critici come Chat Control 1.0, per consentire ai fornitori di servizi di comunicazione di continuare a usare strumenti volontari di rilevamento del materiale di abuso sui minori, effettuando scansioni di massa sulle informazioni scambiate dagli utenti.

A maggio 2022 la Commissione ha presentato una proposta permanente, con obblighi più strutturati per prevenire, segnalare e rimuovere contenuti illegali. Da allora quel dossier è diventato uno dei più controversi della legislazione digitale europea.

Il doppio fronte: Chat Control 1.0 e regolamento CSAR permanente

L’allarme rilanciato da Patrick Breyer, attivista per i diritti civili ed ex eurodeputato, si concentra su due piani paralleli.

Il primo riguarda il tentativo di riportare in vita il regime temporaneo di Chat Control 1.0, cioè la deroga che permetteva ai provider di analizzare volontariamente alcune comunicazioni per individuare materiale sospetto.

Secondo Breyer, la presidente del Parlamento europeo Roberta Metsola avrebbe favorito un percorso politico per riaprire il dossier nonostante il voto contrario dell’aula. L’ex parlamentare osserva che una norma respinta dal Parlamento non dovrebbe rientrare dalla porta laterale attraverso accordi riservati tra governi e vertici politici. Va detto però che la nuova pressione nasce anche dal vuoto normativo lasciato dalla scadenza della deroga temporanea, avvenuta il 3 aprile 2026.

Il secondo fronte riguarda il regolamento permanente, spesso chiamato Chat Control 2.0 dai più critici. Qui si parla di CSAR, cioè Child Sexual Abuse Regulation: una proposta destinata a sostituire il meccanismo provvisorio con obblighi stabili per provider di hosting, servizi di comunicazione interpersonale, app di messaggistica, webmail e piattaforme online.

Perché gli ordini di rilevamento sono al centro del problema

Nel linguaggio della proposta europea, un ordine di rilevamento può imporre a un servizio di cercare materiale noto, materiale nuovo o tentativi di adescamento. Sulla carta l’obiettivo è colpire contenuti e condotte illegali. Sul piano tecnico, però, il meccanismo cambia radicalmente a seconda di com’è applicato: un conto è un’indagine mirata su soggetti identificati e con autorizzazione giudiziaria; altra cosa è un controllo preventivo su tutti gli utenti di un servizio considerato a rischio.

Il rilevamento del materiale già noto può usare tecniche di “hashing percettivo“, come PhotoDNA (fonte: Polizia di Stato) o sistemi simili: il contenuto è trasformato in un’impronta digitale robusta, che tollera anche piccole modifiche dell’immagine. Se l’impronta coincide con un database verificato, il sistema segnala il file. Sembra semplice, ma non lo è. I database devono risultare accurati, aggiornati, controllati e protetti; un errore nella catena di classificazione può produrre segnalazioni sbagliate, blocchi ingiustificati o esposizione di dati sensibili.

L’individuazione di materiale nuovo è molto più difficile. Qui entrano in gioco modelli di classificazione basati su machine learning, analisi del contenuto visivo e sistemi probabilistici.

La qualità dipende dal dataset, dalla soglia di affidabilità, dalla gestione dei falsi positivi e dal riesame umano. In un servizio con milioni di utenti, anche un tasso di errore apparentemente basso può generare migliaia di segnalazioni errate. E quando l’oggetto della segnalazione riguarda foto familiari, immagini mediche, conversazioni intime o contenuti di minori, il danno può essere enorme.

Cifratura end-to-end: il punto che non si può aggirare con una formula

Il dibattito diventa ancora più acceso quando tocca la cifratura end-to-end. In un’app progettata correttamente, come Signal o WhatsApp, il contenuto del messaggio risulta leggibile solo sui dispositivi degli interlocutori: il server instrada pacchetti cifrati, gestisce metadati tecnici e consegna notifiche, ma non possiede la chiave per leggere il testo o gli allegati.

Se un legislatore impone al provider di rilevare contenuti dentro comunicazioni cifrate, le opzioni reali sono poche. O si rompe la cifratura lato server, cosa incompatibile con l’architettura end-to-end; o si introduce una forma di scansione prima o dopo la cifratura sul dispositivo dell’utente, il cosiddetto client-side scanning; oppure si limita la condivisione di immagini, link e file agli utenti che accettano controlli preventivi.

Il client-side scanning merita però attenzione perché spesso è presentato come compromesso tecnico. In realtà sposta il controllo dal server allo smartphone o al computer dell’utente. Il contenuto è analizzato prima dell’invio, quando si trova ancora in chiaro.

Una soluzione del genere conserva formalmente la cifratura durante il trasporto, ma cambia la fiducia nel dispositivo: l’app non è più soltanto uno strumento di comunicazione, diventa anche un punto di ispezione obbligatoria.

Il problema non si limita al presente. Una volta introdotta un’infrastruttura capace di analizzare contenuti prima della cifratura, la lista dei contenuti cercati può essere ulteriormente estesa. Oggi CSAM, domani terrorismo, poi copyright, disinformazione, contenuti politici vietati in alcuni Stati membri. Non serve immaginare abusi fantascientifici: basta osservare come funzionano le tecnologie di compliance quando una piattaforma deve adattarsi a pressioni normative.

Il nodo giuridico: proporzionalità, Carta dei diritti e controllo giudiziario

Le critiche più forti richiamano la Carta dei diritti fondamentali dell’UE, in particolare il diritto al rispetto della vita privata e familiare, la protezione dei dati personali e la libertà di espressione. La Corte di giustizia dell’Unione europea ha più volte guardato con sospetto alle forme di conservazione o accesso generalizzato ai dati delle comunicazioni, soprattutto quando mancano limiti chiari, controllo indipendente e finalità strettamente definite.

Per questo Breyer insiste sulla necessità di investigazioni mirate, basate su sospetti concreti e autorizzazione preventiva.

Il punto non è negare il contrasto agli abusi e la repressione dei reati; è evitare che il contrasto agli abusi diventi la base per un controllo indiscriminato di comunicazioni legittime. Una misura proporzionata dovrebbe individuare chi cercare, perché cercarlo, con quale durata, con quale tecnologia, con quale autorità di controllo e con quali rimedi per gli utenti colpiti per errore. La differenza tra rilevamento mirato e sorveglianza generalizzata sta tutta qui.

La campagna fightchatcontrol.eu e il ruolo della societa’ civile

La riattivazione di fightchatcontrol.eu si inserisce in questa fase politica: il sito permette ai cittadini di contattare eurodeputati e rappresentanze permanenti degli Stati membri con messaggi precompilati. L’obiettivo è chiedere che il regolamento in fase di discussione rispetti la Carta dei diritti fondamentali, le decisioni della Corte di giustizia e il principio di necessità e proporzionalità.

Dal punto di vista comunicativo, la campagna punta su un messaggio netto: proteggere i minori senza distruggere la riservatezza delle comunicazioni di 450 milioni di cittadini europei.

D’altra parte, quando una norma impone ai servizi privati di ispezionare comunicazioni private su larga scala, il modello di sicurezza cambia per tutti, non solo per i criminali.

Una strategia meno invasiva può combinare più livelli: l primo riguarda la sicurezza degli account con il blocco degli account recidivi, il rilevamento di comportamenti anomali, limitazioni progressive sulle nuove utenze sospette, protezioni contro scraping e automazione, canali di segnalazione rapidi e verificati. Il secondo riguarda l’infrastruttura: rimozione tempestiva dai servizi di hosting, collaborazione internazionale sui server che ospitano materiale illegale, uso di hash verificati per impedire il ricaricamento di contenuti già classificati.

Il terzo livello riguarda le indagini. Accessi mirati, preservazione delle prove, ordini giudiziari, analisi dei metadati nei limiti consentiti e cooperazione con i centri nazionali competenti possono risultare più efficaci di un “controllo cieco” sull’intera platea degli utenti. Non è la soluzione più semplice, però evita di trasformare ogni cittadino in un soggetto preventivamente controllato.

Infine c’è il tema della prevenzione. Educazione digitale, strumenti di segnalazione per minori, impostazioni di privacy predefinite, limitazione del contatto da parte di sconosciuti, rilevamento di account manipolativi e supporto alle vittime possono ridurre il rischio in maniera significativa.