Sfruttamento di Vulnerabilità in OpenAI: L’Utilizzo di Claude di Anthropic
In Breve
- Cosa è successo con OpenAI?
- Ricercatori hanno sfruttato vulnerabilità per accedere a account e sistemi di OpenAI utilizzando il modello Claude di Anthropic.
- Qual è stata la ricompensa per i ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Quali strumenti sono stati utilizzati per l'attacco?
- È stato utilizzato il modello Claude (Opus 5) di Anthropic per generare exploit.
Il 25 luglio, una squadra di tre ricercatori di Hacktron AI ha compiuto un’azione audace sfruttando strumenti avanzati di intelligenza artificiale, in particolare il modello Claude (Opus 5) di Anthropic. L’obiettivo era ottenere accesso non autorizzato a diversi account ChatGPT di dipendenti OpenAI e a parti della loro infrastruttura aziendale. Questo attacco è avvenuto nell’ambito di un programma di bug bounty, dove i ricercatori hanno segnalato le vulnerabilità scoperte, guadagnando un premio di 6.500 dollari, mentre OpenAI ha prontamente risolto i problemi identificati.
La breccia è stata possibile grazie a una vulnerabilità nel software del forum della comunità basato su Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Discourse, nel tentativo di gestire questi file, utilizzava ImageMagick e la libreria libheif. Un bug di memoria in quest’ultima portava a un calcolo errato della posizione di un’immagine sovrapposta, sufficiente per compromettere il server. Sebbene il difetto fosse stato corretto dai programmatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso.
I ricercatori hanno notato che la versione precedente del modello, Opus 4.8, aveva difficoltà a generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrre con successo un exploit. Una volta ottenuto l’accesso al server Discourse, hanno scoperto una seconda vulnerabilità che ha permesso loro di controllare gli account ChatGPT e Codex, compreso l’account di un dipendente di OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per la vulnerabilità il 27 luglio, ma l’incidente ha messo in luce come l’uso di modelli avanzati e strumenti commerciali possa ridurre significativamente il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per 200 dollari al mese, chiunque può utilizzare questi strumenti per hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit, trasformando un lavoro che prima richiedeva mesi in uno che ora può richiederne solo giorni”.
È interessante notare che Opus 5 non ha subito le restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche condotte da SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente si verifica in un contesto di crescente attenzione alla sicurezza informatica tra le principali aziende che sviluppano intelligenza artificiale, evidenziando la necessità di misure di sicurezza più robuste per proteggere le infrastrutture critiche.
