OpenAI alla ricerca del metodo definitivo per smascherare i deepfake

Riuscire a identificare i deepfake, siano essi immagini, audio o persino video, è un’impresa molto ardua.

L’Intelligenza Artificiale infatti, viene impegnata sempre più frequentemente per queste ricostruzioni che, sebbene in molti casi siano semplici esercizi di stile, in altri risultano molto pericolose.

In occasione dei tanti eventi elettorali del 2024, nello specifico, in molti hanno segnalato potenziali pericoli a livello di disinformazione. A dispetto di diverse iniziative dei social network, di fatto, il rischio di diffusione di immagini e video contraffatti resta molto alto.

OpenAI, società che rappresenta la punta di diamante dell’IA a livello mondiale, si sta muovendo con decisione per trovare una soluzione. Nell’ultima settimana, infatti, la compagnia ha condiviso i dettagli riguardo un nuovo strumento capace potenzialmente di rivelare immagini generate con IA. A detta della stessa società, lo strumento sarebbe in grado di individuare nel 98% dei casi le immagini generate tramite DALL-E 3, uno degli strumenti più avanzati in questo ambito.

OpenAI e deepfake: la compagnia cerca tester per affinare il suo nuovo strumento per il rilevamento

Secondo quanto trapelato sul blog di OpenAI, a rendere il sistema ancora più efficace vi è il fatto che lo stesso risulta in molti casi capace di individuare lo strumento utilizzato per la generazione di immagini.

La compagnia, per ottenere questi risultati, ha lavorato mesi e mesi di test, analizzando un enorme database di immagini create e/o modificate dal già citato DALL-E 3. Attraverso i metadati legati agli output di quest’ultimo strumento, la rilevazione risulta altamente efficace.

Per poter perfezionare il rilevatore di deepfake, però, OpenAI deve fare un passo ulteriore. Proprio per questo motivo, la società sta ingaggiando ricercatori per creare un primo gruppo di tester, che comincerà a lavorare nel corso del prossimo mese di luglio. Agli stessi sarà richiesto di lavorare testando il classificatore, mettendolo alla prova su diversi tipi di immagini, con un particolare focus su quelle fotorealistiche.