Nuovo strumento aiuta a individuare le immagini create con l'IA

Le immagini generate dall’Intelligenza Artificiale stanno diventando ogni giorno sempre più diffuse. Si tratta di elaborati verosimili, che spesso possono essere confuse con vere e propri foto: è dunque possibile capire che non si tratta di immagini “naturali”?

Google DeepMind e Google Cloud, a tal proposito, hanno di recente reso pubblica la prima versione beta di SynthID. Si tratta di uno strumento in grado di “filigranare” e identificare le immagini generate tramite IA.

Questa tecnologia agisce incorporando una filigrana digitale direttamente nei pixel di un’immagine, rendendola impercettibile all’occhio umano, ma rilevabile con gli adeguati strumenti di identificazione.

SynthID viene rilasciato a un numero limitato di clienti Vertex AI che utilizzano Imagen, uno dei sistemi di generazione grafica che funziona attraverso input testuale.

SynthID sfrutta due modelli di deep learning per individuare le immagini create con IA

Sebbene l’Intelligenza Artificiale generativa possa sbloccare un enorme potenziale creativo, presenta anche nuovi rischi, come consentire ai creatori di diffondere informazioni false, sia in modo intenzionale che involontariamente. Essere in grado di identificare i contenuti generati dall’IA, dunque, è fondamentale per consentire agli utenti di sapere con che tipo di contenuto si sta interagendo.

Google Cloud è il primo fornitore di servizi cloud a offrire uno strumento per creare immagini generate dall’IA in modo responsabile e identificarle con sicurezza. La sinergia con Google DeepMind e il perfezionamento in collaborazione con Google Research, lascia intuire le enormi potenzialità di SynthID.

Questo strumento non è infallibile contro le manipolazioni estreme delle immagini, ma fornisce un approccio tecnico per consentire a persone e organizzazioni di lavorare in modo responsabile con i contenuti generati dall’IA.

Le filigrane, che non influenzano la qualità dell’immagine, sono sovrapposte alle immagini per identificarle, rappresentando ad oggi la miglior soluzione possibile in questo contesto.

Il sistema di watermark tradizionale non è efficace in questo contesto: chiunque può applicare il “timbro digitale” su un’immagine o manipolare una che già lo presenta. Quanto offerto da SynthID, invece, risulta (almeno al momento) pressoché impossibile da modificare.

Non solo: l’aggiunta di filtri, la modifica di colori e luminosità, non influenzano in nessun modo la filigrana. SynthID utilizza due modelli di deep learning per il watermarking e l’identificazione delle immagini. Ciò, come è facile intuire, rende questo sistema estremamente attendibile.