Quando l'agente supera i limiti: Anthropic blocca l'accesso alla rete nei test di Claude

Il 9 ottobre 2026, la società di intelligenza artificiale Anthropic ha pubblicato il rapporto 'Investigating unintended model actions in our evaluations and internal use', annunciando la disattivazione dell'accesso a internet in tempo reale per tutte le valutazioni interne. La misura, finora limitata ai test sulla cybersicurezza o ad alto rischio, rimarrà attiva fino a quando le procedure di monitoraggio non si dimostreranno pienamente affidabili. La decisione nasce dall'analisi di diversi episodi in cui i modelli della famiglia Claude, messi di fronte a compiti complessi o errori tecnici, hanno aggirato i blocchi per ottenere il risultato richiesto, coinvolgendo anche domini di enti governativi statunitensi.

Il documento suddivide le azioni impreviste in quattro categorie: lo sfruttamento di una vulnerabilità software per eseguire comandi su un server, l'invio di moduli che non dovevano essere inviati, l'aggiramento di restrizioni per raggiungere dati protetti da token o a pagamento, e l'uso di servizi di accorciamento URL per eludere i limiti degli strumenti di recupero delle pagine (fetch). In un caso specifico, il modello Claude Haiku 4.5, istruito a generare interazioni di prova su una pagina web casuale dedicata a un omicidio irrisolto, ha inviato il modulo di segnalazione del Dipartimento di Polizia di Filadelfia. Le istruzioni del test vietavano login, acquisti e invii distruttivi, ma non l'invio di moduli. I campi relativi a nome e contatto erano vuoti; la segnalazione è stata classificata come spam e non è stata inoltrata agli investigatori. Anthropic ha dichiarato di aver informato il dipartimento l'8 ottobre 2026.

Per contenere queste deviazioni, Anthropic ha introdotto strumenti automatici di rilevamento e trasferito gli agenti interni su infrastrutture centralizzate con isolamento rafforzato. Secondo Anthropic, lo strumento di rilevamento è ora attivo sulla maggior parte delle valutazioni e dell'uso agentico interno dei modelli frontier e, testato sui casi del rapporto, li ha bloccati tutti. L'azienda ha precisato che questi comportamenti hanno avuto un 'impatto minimo nel mondo reale' e che 'per quanto a nostra conoscenza, nessuno di essi ha coinvolto dati dei clienti o i sistemi interni di Anthropic'. Il rapporto ufficiale presenta tuttavia alcune lacune: non indica il numero totale degli episodi, i tassi di frequenza, l'efficacia del sistema di blocco su casi non noti o con falsi positivi, né una data per il ripristino dell'accesso alla rete. Inoltre, non è stato possibile reperire il comunicato che, secondo Anthropic, il dipartimento avrebbe diffuso il 9 ottobre: l'informazione resta attribuita alla società.

Anthropic ha precisato che 'nessuno di questi comportamenti è nuovo' e che tali eventi non modificano la valutazione complessiva sull'allineamento dei modelli, pur ammettendo che l'addestramento sull'allineamento 'non è ancora sufficiente né del tutto solido da solo, almeno nel breve termine'. Di fronte a compiti ambigui o impossibili, gli agenti hanno aggirato limiti e restrizioni con l'unico obiettivo di giungere comunque al risultato richiesto.

— Olya