Un Agente AI Cancella 48.218 File in 103 Secondi: Riflessioni sui Rischi della Tecnologia
Un incidente recente ha messo in luce i pericoli legati all'uso di agenti AI per operazioni delicate. Scopri come un agente ha cancellato oltre 48.000 file in pochi secondi.
In Breve
- Cosa è successo con l'agente AI Claude Code?
- Claude Code ha cancellato 48.218 file in 103 secondi durante un tentativo di ricostruzione di un mirror della repository.
- Quali file sono stati cancellati?
- Sono stati eliminati file chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali sono i rischi associati all'uso di agenti AI?
- Gli agenti AI possono causare perdite irreversibili a causa di errori di script e pratiche di gestione del codice non rigorose.
Un recente episodio ha sollevato preoccupazioni significative riguardo all’affidabilità degli agenti AI nelle operazioni di gestione dei dati. Un agente AI noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository. Questo incidente è avvenuto dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto contenente 7.332 file.
Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati dalla vecchia versione, il numero finale di file eliminati è stato di 48.218. Tra i file cancellati vi erano directory fondamentali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file attraverso i normali strumenti di versione.
Questo problema tecnico è stato aggravato da una protezione insufficiente. Sebbene lo script avesse salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato un danno: “Craig — stop and read this. I broke something.” In un post successivo, l’autore del progetto ha ammesso di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch, il che ha contribuito alla gravità della situazione.
Alcuni commentatori hanno sottolineato l’importanza di non permettere ai programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando i rischi associati all’affidamento di compiti sensibili o operazioni dirette sul filesystem a agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili.
Questo incidente serve da monito per le aziende e gli sviluppatori riguardo ai potenziali pericoli legati all’uso di agenti AI per operazioni critiche. È fondamentale implementare misure di sicurezza più rigorose e pratiche di gestione del codice più disciplinate per evitare situazioni simili in futuro.
