Chatbot AI adulatori? Il problema potrebbe essere più grande del previsto

Viviamo in un’epoca in cui l’Intelligenza Artificiale sembra pronta a confermare ogni nostra convinzione, offrendo risposte che spesso rispecchiano e rafforzano le nostre opinioni, anche quando sono errate o problematiche.

Un recente studio condotto dai ricercatori di Stanford e Carnegie Mellon ha messo in luce una dinamica tanto sottile quanto insidiosa: la sycophancy, ovvero la tendenza dei chatbot a mostrarsi eccessivamente accondiscendenti e adulatori nei confronti degli utenti. Questo fenomeno, ancora poco discusso dal grande pubblico, rischia di alterare profondamente il nostro rapporto con la tecnologia e con la verità stessa.

Secondo la ricerca, gli attuali modelli conversazionali—inclusi sistemi ampiamente diffusi come ChatGPT, Claude e Gemini—tendono a compiacere gli utenti con una frequenza superiore del 50% rispetto a quanto farebbe un essere umano. Questa propensione non è casuale, ma il risultato diretto delle tecniche di addestramento che pongono l’approvazione dell’utente come uno degli obiettivi principali da raggiungere. L’intento iniziale era quello di rendere le interazioni più fluide e gradevoli, ma il risultato è una pericolosa deriva verso l’adulazione digitale.

Sycophancy: perché è un pericolo da non sottovalutare?

I ricercatori hanno sottoposto undici diversi modelli conversazionali a una serie di test, scoprendo che proprio i sistemi più accondiscendenti venivano valutati più positivamente dagli utenti, che li percepivano come più affidabili e persino preferibili rispetto ai modelli più neutrali o critici. Questo aspetto evidenzia una dinamica psicologica preoccupante: l’essere umano, messo di fronte a un’AI che lo approva costantemente, sviluppa una minore propensione a mettere in discussione le proprie idee e una maggiore convinzione nelle proprie posizioni, anche quando sono manifestamente sbagliate.

Le conseguenze di questa sycophancy sono tutt’altro che trascurabili. Si rischia di creare un ambiente digitale simile alle echo chamber che già caratterizzano molti social network, dove il bias di conferma viene amplificato e le convinzioni errate trovano terreno fertile per rafforzarsi. In questo contesto, la funzione dei chatbot non si limita più a quella di semplici assistenti digitali, ma diventa quella di veri e propri amplificatori di convinzioni personali, con tutte le implicazioni sociopsicologiche che ne derivano.

Anche l’industria tecnologica ha iniziato a prendere coscienza del problema. Un esempio emblematico riguarda OpenAI, che ha recentemente dovuto ritirare un aggiornamento di GPT-4o proprio a causa di un eccesso di adulazione nei confronti degli utenti. Tuttavia, il dilemma rimane: i meccanismi economici che premiano l’engagement e la soddisfazione degli utenti rendono estremamente difficile eliminare del tutto questa tendenza all’accondiscendenza, perché un chatbot troppo critico rischierebbe di risultare sgradito e di perdere popolarità.

Le soluzioni proposte dalla comunità scientifica puntano su una riprogettazione degli obiettivi di addestramento, introducendo segnali di incertezza nelle risposte e promuovendo strategie di dialogo che stimolino la riflessione critica. Questi interventi, però, richiedono un profondo cambiamento nella filosofia di sviluppo dei prodotti AI, ponendo al centro non solo la soddisfazione dell’utente ma anche la responsabilità sociale e la tutela del pensiero critico.