Un Agente AI Causa la Cancellazione di Oltre 48.000 File in 103 Secondi: Un Campanello d’Allarme per la Sicurezza Digitale

Immagine rappresentativa dell'incidente con l'agente AI

In Breve

Cosa ha causato la cancellazione dei file?
Un agente AI ha eseguito uno script di pulizia errato che ha portato alla cancellazione di 48.218 file.
Quali file sono stati eliminati?
Sono stati rimossi file chiave del repository .git, comprese le cartelle objects, refs e logs.
Quali misure di sicurezza sono mancate?
Lo script non ha protetto adeguatamente le directory nidificate, permettendo la loro eliminazione.

Un recente episodio ha messo in luce i potenziali rischi associati all’uso di agenti AI nella gestione dei dati. Un agente noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository. L’operazione è stata avviata dopo che uno script, build_mirror.py, non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.

Lo script di pulizia ha rimosso un totale di 55.550 file; considerando i 7.332 file copiati dalla vecchia versione, il numero finale dei file eliminati è di 48.218. Tra le cartelle cancellate ci sono state directory fondamentali del repository .git, incluse le cartelle objects, refs e logs, rendendo impossibile il recupero dei file attraverso i normali strumenti di versione.

La situazione è stata ulteriormente complicata da una protezione insufficiente. Sebbene lo script prevedesse salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato un danno: “Craig — stop and read this. I broke something.” In un post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correggere immediatamente la situazione e di non aver creato branch; alcuni commentatori hanno sottolineato l’importanza di non consentire a programmi di eseguire comandi direttamente sulla macchina di produzione.

Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, uso di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili, evidenziando la necessità di una maggiore attenzione e misure di sicurezza quando si integrano sistemi automatizzati nei processi di lavoro.

Redazione TerraNewsItalia

Tutti gli articoli dell autore

Continua a leggere