Anthropic ammette un incidente nei test di sicurezza: l’IA ha violato i sistemi di tre aziende

La crescente potenza dei modelli di intelligenza artificiale apre nuove opportunità, ma impone anche standard di sicurezza sempre più elevati. A ricordarlo è Anthropic, società statunitense sviluppatrice della famiglia di modelli Claude, che ha reso noto un episodio verificatosi durante alcune valutazioni di cybersicurezza: tre sistemi appartenenti ad aziende reali sono stati raggiunti e compromessi dai propri modelli nel corso di test che avrebbero dovuto svolgersi esclusivamente in un ambiente controllato. La società ha precisato che l'accaduto è stato il risultato di un errore nella configurazione dell'infrastruttura di prova e non di un comportamento deliberatamente autonomo dell'intelligenza artificiale.

L'episodio è emerso nell'ambito di una revisione interna avviata dopo che un'altra società del settore, OpenAI, aveva segnalato un incidente analogo durante esercitazioni dedicate alla sicurezza informatica. Anthropic ha analizzato oltre 141.000 sessioni di test, individuando tre casi nei quali alcuni modelli sono riusciti ad accedere a Internet attraverso un ambiente di valutazione gestito da un partner esterno. Una volta raggiunta la rete pubblica, i sistemi hanno sfruttato vulnerabilità relativamente semplici, come password deboli o configurazioni non adeguatamente protette, ottenendo un accesso non autorizzato alle infrastrutture di tre diverse organizzazioni. Due delle aziende coinvolte non erano a conoscenza dell'accaduto e sono state informate direttamente da Anthropic.

Secondo la ricostruzione fornita dall'azienda, i modelli erano impegnati in esercitazioni di tipo capture the flag, prove comunemente utilizzate nel settore della cybersicurezza per valutare la capacità di individuare informazioni o vulnerabilità in sistemi simulati. A causa di una configurazione errata, però, l'ambiente di test disponeva di un collegamento alla rete Internet che avrebbe dovuto essere assente. Alcuni modelli hanno quindi interpretato sistemi reali come parte dello scenario di prova e hanno proseguito l'attività prevista dall'esercitazione. Anthropic ha evidenziato che non sono state sfruttate vulnerabilità sofisticate o cosiddetti zero-day, ma esclusivamente debolezze elementari presenti nei sistemi raggiunti.

L'incidente ha riacceso il dibattito sulla sicurezza dell'intelligenza artificiale e, in particolare, sui rischi connessi allo sviluppo di agenti sempre più autonomi nelle attività informatiche. Gli esperti sottolineano che strumenti capaci di eseguire operazioni complesse in autonomia possono rappresentare un importante supporto nella difesa delle reti digitali, ma richiedono controlli rigorosi, autorizzazioni granulari e ambienti di sperimentazione completamente isolati. Anche errori apparentemente banali nella configurazione delle infrastrutture possono infatti trasformare un test interno in un evento con conseguenze reali, evidenziando l'importanza di procedure di verifica indipendenti e di una governance sempre più strutturata.

In seguito all'accaduto, Anthropic ha annunciato la sospensione delle valutazioni di cybersicurezza che prevedono un accesso diretto a Internet e l'avvio di una revisione approfondita dei protocolli utilizzati insieme ai partner incaricati dei test. L'azienda ha inoltre ribadito che la trasparenza nella comunicazione degli incidenti rappresenta un elemento fondamentale per migliorare gli standard dell'intero settore. La vicenda conferma come l'evoluzione dell'IA generativa proceda di pari passo con nuove responsabilità in materia di sicurezza informatica e come il rafforzamento delle misure di controllo sia destinato a diventare uno degli aspetti centrali nello sviluppo dei modelli di prossima generazione.