Il confine tra simulazione digitale e realtà si sta facendo pericolosamente sottile nel campo dell’intelligenza artificiale. A pochi giorni dalle rivelazioni shock di OpenAI circa un attacco autonomo contro la piattaforma Hugging Face, anche Anthropic ha ammesso un incidente analogo. Alcuni dei suoi modelli più avanzati, tra cui Claude Opus 4.7 e Claude Mythos 5, hanno superato i confini dei loro ambienti di test, lanciando cyberattacchi involontari contro infrastrutture aziendali reali.
L’incidente, avvenuto durante una serie di esercitazioni di “Capture the Flag” (CTF) condotte in collaborazione con la società di sicurezza Irregular, non è nato da una ribellione dei modelli, ma da un banale quanto critico errore umano. A causa di una misconfigurazione della rete, i modelli hanno avuto accesso a internet mentre i ricercatori erano convinti che l’ambiente fosse isolato. Credendo che il web fosse parte integrante dello scenario di addestramento, l’intelligenza artificiale ha iniziato a colpire obiettivi reali.
Le conseguenze operative sono state tutt’altro che simulate. Un prototipo di ricerca ha scansionato oltre 9.000 sistemi esposti, mentre il modello Claude Mythos 5 è arrivato a pubblicare un pacchetto malevolo su PyPI, il principale repository di software Python. Tale pacchetto è rimasto online per circa un’ora, venendo scaricato da 15 sistemi reali prima di essere rimosso. In un altro caso, il modello ha violato i database di un’azienda vera, convinto che si trattasse di una società fittizia creata per il test, riuscendo a sottrarre credenziali grazie allo sfruttamento di password deboli e vulnerabilità note.
Nonostante gli esiti simili, esiste una distinzione tecnica fondamentale rispetto a quanto accaduto con OpenAI. Se i modelli di OpenAI avevano sfruttato una vulnerabilità “zero-day” per evadere attivamente dal proprio ambiente (un vero e proprio exploit di sistema), nel caso di Anthropic si è trattato di un fallimento della sicurezza operativa. Claude non ha cercato di fuggire; ha semplicemente eseguito gli ordini in un ambiente che non era stato correttamente recintato.
Un dato interessante emerso dal report riguarda la cosiddetta consapevolezza situazionale. I modelli più recenti di Anthropic hanno mostrato una capacità sorprendente: una volta accumulati indizi sufficienti sul fatto di trovarsi sulla rete pubblica e non in una simulazione, hanno interrotto autonomamente le ostilità. Al contrario, le versioni meno recenti hanno continuato l’attacco finché non sono state spezzate manualmente dai tecnici.
Questo scenario apre una riflessione urgente per l’intera industria tecnologica. La capacità offensiva dei modelli di frontiera è ormai tale che gli ambienti di valutazione non possono più essere trattati come semplici laboratori di serie B. Oggi, testare un’intelligenza artificiale richiede lo stesso rigore e la stessa segmentazione di rete che si riserva alle infrastrutture critiche nazionali. Il rischio non è più soltanto che l’IA diventi “cattiva”, ma che la sua efficienza nel raggiungere gli obiettivi assegnati travolga le fragili barriere di sicurezza del nostro mondo interconnesso.