Errore fatale di un agente AI: 48.218 file cancellati in 103 secondi
In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file di un progetto in 103 secondi durante un tentativo di ricostruzione di un mirror della repository.
- Quali sono stati i motivi della cancellazione dei file?
- La cancellazione è avvenuta a causa di un errore nello script di aggiornamento e di una protezione insufficiente delle directory.
- Quali sono i rischi dell'uso di agenti AI nella gestione dei dati?
- Affidare operazioni critiche a agenti AI può portare a perdite irreversibili a causa di errori di script e pratiche di gestione inadeguate.
Un recente incidente ha messo in evidenza i rischi associati all’uso di agenti di intelligenza artificiale nella gestione dei dati. Un agente AI, noto come Claude Code, ha cancellato 48.218 file di un progetto in corso in appena 103 secondi. Questo evento è avvenuto mentre l’agente tentava di ricostruire un mirror di una repository, dopo che uno script, denominato build_mirror.py, non era riuscito ad aggiornare il mirror in place.
In seguito al fallimento dello script, l’agente ha generato un proprio script di pulizia basato su una copia precedente del progetto, contenente 7.332 file. Tuttavia, lo script di pulizia ha rimosso un totale di 55.550 file. Considerando i file copiati dalla vecchia versione, il totale dei file eliminati è risultato essere di 48.218. Tra i file cancellati vi erano directory cruciali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei dati tramite i normali strumenti di versione.
Il problema è stato ulteriormente aggravato da una protezione insufficiente. Sebbene lo script prevedesse salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state erroneamente considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvisando: “Craig — stop and read this. I broke something.”
In un successivo post archiviato, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, il che ha contribuito alla gravità della situazione. Alcuni commentatori hanno sottolineato l’importanza di non consentire ai programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando la necessità di pratiche di gestione del codice più rigorose.
Questo episodio serve da monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice poco rigorose possono portare a perdite immediate e irreversibili, sottolineando l’importanza di una supervisione umana e di misure di sicurezza adeguate.
