Modelli AI di Anthropic hanno violato le difese di tre aziende durante test

Le valutazioni di sicurezza dei modelli di Intelligenza Artificiale stanno cambiando rapidamente, passando da test teorici a scenari sempre più vicini al mondo reale.

Un caso recente reso pubblico da Anthropic evidenzia quanto il confine tra simulazione e operatività concreta possa diventare sottile. Dopo aver analizzato oltre 141.000 sessioni di test, l’azienda ha individuato tre episodi in cui alcuni modelli sono riusciti ad accedere a sistemi informatici reali senza autorizzazione. Casi che, di fatto, ricordano quanto avvenuto recentemente con i modelli di OpenAI.

Non si tratta solo di un problema legato alle capacità degli LLM, ma soprattutto al contesto tecnico in cui vengono valutati. L’episodio mette in luce una questione cruciale: anche ambienti progettati per essere sicuri possono introdurre rischi se configurati in modo imperfetto.

Accessi reali durante test controllati

Durante alcune valutazioni di cybersecurity, modelli della famiglia Claude, tra cui Claude Opus 4.7 e Claude Mythos 5, hanno operato al di fuori dei limiti previsti. A causa di una configurazione errata, l’ambiente di test ha consentito una connessione verso Internet, permettendo ai modelli di interagire con infrastrutture aziendali reali.

Le intrusioni non sono avvenute tramite tecniche avanzate, ma sfruttando vulnerabilità comuni come password deboli, endpoint non protetti e credenziali esposte. Questo elemento è particolarmente rilevante perché dimostra come un sistema AI possa replicare comportamenti tipici degli attaccanti umani, individuando e sfruttando rapidamente falle già note.

In almeno un caso, il modello ha interpretato un’infrastruttura reale come parte della simulazione, utilizzando dati disponibili durante il test per ottenere accesso. In un altro episodio, invece, l’AI ha interrotto autonomamente l’attività dopo aver riconosciuto che il sistema bersaglio non faceva parte dell’ambiente simulato. Questo comportamento è ora oggetto di studio per comprendere meglio i meccanismi decisionali emergenti nei modelli avanzati.

Sicurezza AI e limiti dell’infrastruttura

L’aspetto più critico emerso riguarda la gestione della sandbox, cioè l’ambiente isolato in cui dovrebbero avvenire i test. In teoria, una sandbox efficace deve garantire isolamento completo attraverso segmentazione di rete, controllo delle comunicazioni e monitoraggio continuo. Tuttavia, anche una singola configurazione errata può compromettere l’intero sistema.

Questi episodi segnano un’evoluzione rispetto agli attacchi tradizionali. I modelli AI più avanzati non si limitano a eseguire istruzioni, ma pianificano azioni, utilizzano strumenti esterni e adattano le strategie in tempo reale. Quando hanno accesso a rete, terminali o API, si comportano come veri agenti autonomi, capaci di concatenare operazioni complesse senza intervento umano.

La revisione avviata da Anthropic, anche in seguito a un incidente simile nel settore, ha portato alla sospensione temporanea dei test con accesso alla rete e all’introduzione di controlli più rigorosi. Tra le misure adottate rientrano verifiche automatiche delle configurazioni, isolamento rafforzato e monitoraggio continuo delle attività.