Allarme AgentFlayer: la vulnerabilità minaccia ChatGPT

L’evoluzione dell’Intelligenza Artificiale porta con sé enormi vantaggi in termini di produttività e automazione, ma apre anche la strada a nuove e sofisticate minacce.

Rientra in questo contesto una vulnerabilità appena scoperta rischia di mettere a repentaglio la privacy di milioni di utenti che utilizzano le piattaforme di AI più diffuse, tra cui ChatGPT. La scoperta, attribuita al ricercatore Tamir Ishai Sharbat, ha portato alla luce AgentFlayer, un nuovo metodo di attacco che sfrutta i meccanismi di integrazione dei servizi cloud, esponendo dati sensibili e creando i presupposti per un vero e proprio data breach.

Quando si progettano sistemi AI, la priorità dovrebbe essere quella di anticipare possibili abusi e scenari di rischio. Tuttavia, la sofisticazione crescente degli attacchi rende sempre più difficile prevedere ogni possibile vulnerabilità.

AgentFlayer rappresenta una minaccia insidiosa proprio perché agisce sfruttando una delle funzionalità più apprezzate dagli utenti di ChatGPT: la possibilità di integrare e gestire file tramite i Connectors. Questi strumenti, che consentono di collegare servizi esterni come Google Drive, SharePoint o GitHub, sono diventati parte integrante del flusso di lavoro di molti professionisti e aziende. Tuttavia, proprio questa apertura verso l’esterno diventa il punto debole che i malintenzionati possono sfruttare.

Il meccanismo di attacco individuato è tanto semplice quanto efficace: un file apparentemente innocuo, caricato tramite i Connectors, può contenere caratteri invisibili o nascosti. Quando ChatGPT elabora questi documenti, l’AI esegue inconsapevolmente comandi non visibili all’utente. Questi comandi possono includere richieste di visualizzazione di immagini da URL specifici, attraverso cui vengono trasferiti parametri sensibili come chiavi API o informazioni personali, dando così vita a una sofisticata forma di data exfiltration.

Connectors nel mirino dei cybercriminali

La vulnerabilità risiede in particolare nel sistema di gestione delle immagini di ChatGPT. Nonostante OpenAI abbia introdotto l’endpoint url_safe per filtrare le richieste e garantire una maggiore protezione, i ricercatori hanno scoperto che questi controlli possono essere aggirati utilizzando Azure Blob di Microsoft. Questa piattaforma cloud, generalmente considerata affidabile dal sistema di sicurezza di ChatGPT, viene sfruttata per veicolare i comandi nascosti senza destare sospetti. Il risultato è che l’attacco si basa su infrastrutture legittime e difficilmente identificabili come pericolose.

Un elemento che rende particolarmente insidioso AgentFlayer è l’uso di Azure Log Analytics: ogni richiesta effettuata attraverso questa piattaforma viene automaticamente registrata, consentendo agli attaccanti di raccogliere dati sensibili senza dover gestire server propri.

La minaccia si estende a tutti i servizi integrati tramite Connectors. Basta la condivisione di un documento apparentemente innocuo tramite Google Drive o altri servizi cloud per compromettere informazioni riservate, con potenziali ripercussioni devastanti soprattutto per le aziende e i professionisti che gestiscono dati sensibili o informazioni strategiche. In questo scenario, la rapidità di diffusione e la difficoltà di individuazione rendono AgentFlayer una delle minacce più rilevanti nel panorama attuale della sicurezza informatica.

Nonostante gli sforzi di OpenAI per rafforzare le difese, la crescente sofisticazione degli attacchi impone un aggiornamento costante delle misure di sicurezza. Gli esperti consigliano la massima cautela nella gestione dei file caricati su ChatGPT, invitando gli utenti a verificare sempre l’origine dei documenti, in particolare quando si utilizzano i Connectors per accedere a risorse cloud come Google Drive o Azure Blob.