Testi umani scambiati per contenuti AI: perché succede?

Un testo può essere scritto interamente da una persona e venire comunque classificato come prodotto dall’Intelligenza Artificiale.

È uno dei paradossi più delicati dell’epoca dei modelli generativi: i cosiddetti AI detector non ricostruiscono l’origine di un documento, ma stimano quanto il suo stile assomigli a quello di un modello linguistico. Il risultato, spesso espresso con una percentuale, può sembrare scientifico senza costituire una prova forense. La differenza è decisiva quando il punteggio viene usato in ambito scolastico, universitario, editoriale o sulle piattaforme online.

Una ricerca di Stanford ha mostrato inoltre che questi sistemi possono penalizzare in modo particolare gli autori non madrelingua inglesi, trasformando normali caratteristiche linguistiche in segnali di sospetto. In questo contesto, l’errore tecnico può diventare rapidamente un’accusa, una sanzione o un danno reputazionale difficile poi da rimediare.

Come funzionano i rilevatori di AI

La distinzione tra plagio e testo generato dall’AI nasce da problemi tecnici diversi.

Un software antiplagio cerca corrispondenze verificabili tra il documento e fonti già pubblicate. Un rilevatore di AI, invece, osserva elementi come scelta delle parole, lunghezza dei periodi, struttura sintattica, ritmo e tono, poi assegna un punteggio legato alla probabilità. Tra gli indicatori più citati c’è la perplessità linguistica, cioè quanto una sequenza di parole risulti prevedibile per un modello. Ma prevedibilità e origine artificiale non sono sinonimi: anche una persona può preferire frasi regolari, lessico semplice e formule ricorrenti.

Il limite emerge soprattutto nei falsi positivi. Nello studio di Stanford, il 61,22% dei saggi TOEFL scritti da studenti non madrelingua inglesi è stato classificato come generato dall’AI; il 97% degli elaborati è stato segnalato da almeno uno dei sette strumenti analizzati. I ricercatori collegano il risultato a misure come ricchezza lessicale e complessità grammaticale, che possono riflettere l’apprendimento di una seconda lingua, non l’uso di ChatGPT.

Gli errori possono verificarsi anche nella direzione opposta. Una semplice riscrittura, una parafrasi o una modifica del lessico può cambiare il punteggio di un testo generato senza cambiarne davvero l’origine. Per questo un classificatore può essere utile per suggerire una verifica, ma non dovrebbe determinare da solo una bocciatura, una sospensione o la perdita di un contratto.

Quando una percentuale diventa un’accusa

Il problema non è soltanto l’accuratezza dichiarata dai produttori, ma il modo in cui il risultato viene interpretato. Una percentuale non indica necessariamente la probabilità che un testo sia stato scritto dall’AI: descrive, più limitatamente, la somiglianza con alcuni schemi presenti nei dati di addestramento del rilevatore. L’affidabilità cambia inoltre in base a lingua, lunghezza, genere testuale, modello utilizzato e interventi di revisione.

Le conseguenze possono essere concrete. In ambito accademico, accuse basate su strumenti fallibili rischiano di colpire studenti innocenti e, in particolare, chi scrive in una seconda lingua. Anche il MIT avverte che i rilevatori possono produrre errori e suggerisce di puntare su regole chiare, dialogo, dichiarazioni trasparenti sull’uso dell’AI e valutazioni distribuite nel tempo, come bozze, revisioni e spiegazioni del processo.

La soluzione più prudente consiste quindi nel considerare il punteggio un’indicazione, mai una sentenza. Per valutare l’autenticità è più utile osservare l’evoluzione del lavoro, confrontarsi con l’autore e verificare fonti e ragionamenti. Finché il testo finale non conserva una prova affidabile della propria provenienza, nessun algoritmo può dedurre con certezza chi lo abbia scritto. La tecnologia potrà migliorare, ma la responsabilità della decisione dovrà restare umana.