Reddit introduce verifiche manuali per combattere i bot AI

“Dobbiamo proteggere la nostra comunità garantendo che dietro ogni account ci sia una persona reale, senza compromettere l’anonimato che è sempre stato al centro della nostra piattaforma.” Con queste parole, il CEO di Reddit, Steve Huffman, ha annunciato un’importante iniziativa per l’introduzione di un sistema di verifica manuale.

La decisione arriva in risposta a un esperimento controverso, in cui bot generati dall’AI hanno simulato utenti reali, generando oltre 1.700 commenti all’interno del subreddit “Change My View”.

L’esperimento, condotto senza autorizzazione, ha scosso la fiducia degli utenti, poiché i bot impersonavano sopravvissuti ad abusi o sostenitori di opinioni polarizzanti. Questo ha evidenziato la necessità di garantire l’autenticità delle interazioni sulla piattaforma, un tema cruciale nell’era dell’Intelligenza Artificiale.

Verifiche manuali per evitare intromissione dell’AI all’interno dei subreddit

Il nuovo sistema mira a bilanciare sicurezza dati e privacy. Reddit collaborerà con servizi esterni come Persona e Stripe Identity, esplorando anche tecnologie innovative come lo scanning oculare “proof of human” sviluppato da Sam Altman. Tuttavia, la piattaforma si impegna a non raccogliere dati personali completi. Un portavoce ha chiarito: “Non vogliamo i vostri nomi o informazioni che possano identificarvi personalmente”. Le attuali misure per bloccare i bot dannosi saranno rafforzate con questo approccio.

La comunità di Reddit è divisa sull’argomento. Da un lato, molti vedono la verifica umana come uno strumento essenziale per preservare l’autenticità delle discussioni. Dall’altro, emergono preoccupazioni sulla riservatezza dei dati. Reddit ha cercato di rassicurare gli utenti, promettendo una gestione cauta delle informazioni e una resistenza alle richieste eccessive da parte delle autorità.

Il timore di abusi simili a quelli verificatisi con Meta, che ha condiviso conversazioni private con le forze dell’ordine causando conseguenze legali per gli utenti, ha spinto Reddit a progettare un sistema che raccolga solo i dati strettamente necessari. L’obiettivo è garantire un equilibrio tra autenticità e tutela della privacy.