Vulnerabilità di OpenAI: come i ricercatori hanno sfruttato Claude di Anthropic per accedere a sistemi sensibili
Un gruppo di ricercatori ha utilizzato il modello Claude di Anthropic per accedere a account e sistemi di OpenAI, rivelando vulnerabilità critiche.
In Breve
- Chi ha sfruttato le vulnerabilità di OpenAI?
- Un team di ricercatori di Hacktron AI ha sfruttato strumenti di Anthropic.
- Qual è stata la ricompensa per i ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle falle.
- Cosa evidenzia questo incidente?
- L'incidente evidenzia le vulnerabilità nella sicurezza dei sistemi di intelligenza artificiale.
Il 25 luglio scorso, un team di tre ricercatori di Hacktron AI ha dimostrato come strumenti avanzati di intelligenza artificiale possano essere utilizzati per compromettere la sicurezza dei sistemi informatici. Utilizzando il modello Claude (Opus 5) di Anthropic, i ricercatori sono riusciti a concatenare due vulnerabilità che hanno permesso loro di accedere a più account ChatGPT di dipendenti OpenAI e a elementi dell’infrastruttura aziendale.
Questa attività è stata condotta nell’ambito di un programma di bug bounty, attraverso il quale i ricercatori hanno segnalato le falle riscontrate e ricevuto un premio di 6.500 dollari. OpenAI ha prontamente risolto i problemi identificati.
La prima vulnerabilità sfruttata si trovava nel software del forum della comunità basato su Discourse, specificamente legata all’upload di file immagine nei formati HEIF/HEIC. Durante il processo di conversione di questi file, Discourse utilizzava ImageMagick e la libreria libheif. Un bug di memoria in libheif causava un calcolo errato della posizione di un’immagine sovrapposta, sufficiente a compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema di OpenAI.
I ricercatori hanno notato che il modello precedente, Opus 4.8, aveva difficoltà a generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, il team ha scoperto una seconda vulnerabilità che ha consentito il controllo di account ChatGPT e Codex, incluso quello di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere queste vulnerabilità il 27 luglio, ma l’incidente ha sollevato interrogativi sulla sicurezza dei sistemi di intelligenza artificiale. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, che è stata temporaneamente limitata per timori sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo episodio arriva in un momento di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, evidenziando la necessità di un monitoraggio continuo e di misure di sicurezza più rigorose per proteggere i dati sensibili.
