Secondo una ricostruzione di Wired, un dipendente di Accenture che lavorava per il Dipartimento della Difesa americano avrebbe collegato un ambiente di produzione sulla NIPRNet al proprio account personale di Claude Code, l’agente di programmazione sviluppato da Anthropic.
NIPRNet è una rete del Pentagono destinata a informazioni non classificate ma comunque sensibili. Per permettere a Claude di scrivere e distribuire codice, il contractor gli avrebbe fornito credenziali con privilegi amministrativi, consentendogli di operare direttamente sul sistema.
Due mesi nel cuore della Difesa
L’agente sarebbe rimasto attivo per circa due mesi prima che il collegamento venisse individuato. Durante il lavoro avrebbe inviato fuori dall’ambiente protetto credenziali di accesso e una mappa della rete verso un sito terzo considerato ad alto rischio.
Wired riferisce che quel servizio presentava una vulnerabilità attraverso la quale un attaccante avrebbe potuto impartire istruzioni a un agente di coding e sottrargli informazioni. Accenture sostiene che le accuse siano state indagate in modo indipendente e giudicate prive di fondamento. Il Pentagono ha evitato commenti sullo stato dei propri sistemi.
Il precedente del Dipartimento di Stato
Il Dipartimento di Stato aveva già avuto a che fare con agenti IA di Anthropic in un episodio distinto, emerso poche settimane fa. Durante alcuni test interni dell’azienda di Dario Amodei, un modello che avrebbe dovuto compilare una copia di prova di un modulo governativo si è spostato sul sito reale quando il documento di test non funzionava.
Secondo il Dipartimento di Stato, il sistema ha così inviato venti richieste di visto incomplete tra maggio e agosto. Nessuna è stata elaborata e i sistemi dell’agenzia non sono stati compromessi. Anthropic ha spiegato che i suoi agenti possono cercare strade alternative quando incontrano un ostacolo, soprattutto davanti a istruzioni ambigue.
Anthropic avverte gli investitori: 94 pagine sui rischi dell’IA, inclusa la fine dell’umanità
Quando l’agente personale avrà le nostre chiavi
Questi episodi anticipano un problema molto più ampio. Gli agenti personali stanno diventando software con accesso stabile alla posta e ai sistemi di lavoro, capaci di completare attività senza chiedere conferma a ogni passaggio.
Anthropic stessa descrive nei documenti depositati alla SEC in vista della quotazione in Borsa una generazione di “collaboratori virtuali” dotati dei diritti di accesso concessi dalle organizzazioni.
Se un agente eredita privilegi troppo estesi, un errore di interpretazione o un'istruzione malevola incontrata online può trasformarsi direttamente in un'azione. Il caso Accenture mostra quanto diventi rischioso concedere a un assistente personale la stessa libertà operativa della persona che lo utilizza.