Progetto su GitHub promette di rimuovere le filigrane generate dall'AI

Un progetto pubblicato su GitHub riporta l’attenzione su un aspetto poco visibile delle immagini generate con l’Intelligenza Artificiale: la possibilità di individuare e alterare i segnali che ne indicano l’origine sintetica.

Il repository AI Image Detector and Watermark Remover, realizzato dallo sviluppatore noto come HunterMau, combina strumenti di analisi e tecniche per intervenire sui watermark. Il tema non riguarda soltanto il ritocco fotografico.

Coinvolge il rapporto tra rilevamento, autenticità e sistemi di provenienza digitale adottati dall’industria. La questione è diventata più complessa perché un watermark visibile, una firma incorporata nei pixel e i metadati crittograficamente verificabili non svolgono la stessa funzione. Rimuovere un logo, quindi, non equivale automaticamente a cancellare la storia del contenuto digitale stesso.

Una mossa che arriva poco dopo l’annuncio di Anthropic dell’introduzione di un watermark integrato nei testi generati da Claude.

Rilevamento e watermark non sono la stessa cosa

Il repository non appare come un semplice strumento per cancellare loghi. La sua caratteristica più interessante è l’accostamento tra identificazione dei segnali lasciati dai generatori e interventi successivi sull’immagine.

Un watermark può essere visibile, come un testo sovrapposto, oppure distribuito nei pixel in modo impercettibile. Nel primo caso l’intervento può ricorrere all’inpainting, che ricostruisce l’area coperta sulla base degli elementi circostanti. Se il marchio attraversa un volto, un testo o un oggetto con geometrie precise, però, la ricostruzione può modificare informazioni presenti nell’originale.

I watermark invisibili sono più complessi. Il segnale può essere intrecciato con le caratteristiche statistiche dell’immagine e resistere a compressione, ridimensionamento o variazioni cromatiche. La ricerca ha comunque mostrato che alcune tecniche di rigenerazione possono indebolire watermark incorporati nei pixel, confermando che nessuna soluzione basata esclusivamente sull’immagine è invulnerabile.

Diverso è il modello di C2PA, lo standard aperto che associa al contenuto manifest e credenziali firmati. Queste informazioni descrivono origine e modifiche e possono essere verificate crittograficamente. Non sono quindi equivalenti a un logo: un’immagine può non avere elementi visibili e conservare comunque una dichiarazione di provenienza.

La provenienza resta il punto centrale

Google SynthID rappresenta un altro approccio. Il sistema inserisce un watermark destinato a rimanere rilevabile dopo alcune modifiche. La sua efficacia dipende dal rilevatore, ma il risultato non deve essere interpretato come una prova assoluta dell’origine.

Anche i detector che analizzano i pixel lavorano in termini probabilistici. Esaminano pattern di compressione, frequenze spaziali e caratteristiche statistiche, ma screenshot, filtri e ricompressione possono alterare gli indizi. L’assenza di un watermark non dimostra quindi che un’immagine sia stata realizzata da una persona, così come la presenza di una firma non garantisce che il contenuto sia rimasto intatto.

La distinzione è importante per moderazione, giornalismo e verifica delle immagini. Un sistema basato sui pixel può aiutare quando mancano metadati affidabili, mentre una catena C2PA può documentare chi ha creato o modificato un file. I due strumenti affrontano problemi diversi e funzionano meglio se utilizzati insieme.