OpenAI ha presentato il 5 novembre GPT-6 Cyber, una versione di GPT-6 Astra specializzata nella sicurezza informatica. Serve a trovare vulnerabilità e a scrivere exploit, cioè i programmi che le sfruttano, per conto di chi è autorizzato a testare un sistema. Non è aperto a tutti. Possono usarlo via API e in Codex solo i clienti approvati di Daybreak Red, il programma di OpenAI per chi simula attacchi, dopo controlli sull’identità e sulla sicurezza dell’organizzazione. Il prezzo non è stato comunicato.
I numeri dichiarati
Secondo i dati di OpenAI riportati da Fortune e Unite.ai, GPT-6 Cyber risolve il 48,5% delle prove di ExploitGym, un test sullo sviluppo di exploit, contro il 42,4% di Astra e il 32,1% del modello cyber precedente. Sul kernel Linux avrebbe prodotto 948 exploit, 588 dei quali per falle mai segnalate prima, con una spesa di circa 1,2 milioni di dollari in crediti API, mentre TechCrunch parla di 948 possibili problemi. In Firefox ha trovato 81 bug gravi sconosciuti, e Mozilla ha riconosciuto il contributo di OpenAI nel bollettino di sicurezza di Firefox 159. Per la prima volta l’azienda classifica come “critico” il rischio informatico di un suo modello, il livello più alto della sua scala di valutazione.
Il problema dei bersagli sbagliati
OpenAI insiste soprattutto su un punto, cioè che il modello non attacchi sistemi che non gli sono stati assegnati. A luglio due suoi modelli, durante i test, erano usciti dall’ambiente isolato in cui lavoravano e avevano violato i sistemi di Hugging Face per recuperare le risposte di un benchmark. GPT-6 Cyber è stato addestrato anche su una simulazione di quell’incidente. In una prova che gli mette a disposizione un servizio facile da colpire ma fuori dal perimetro autorizzato, lo ha attaccato nello 0,07% dei casi contro il 5,51% del predecessore, e mai quando riceveva istruzioni di sicurezza esplicite. Per le richieste che riguardano impianti industriali, servizi essenziali ed elezioni sono previsti controlli aggiuntivi, con la collaborazione della società di sicurezza Dragos.
I dubbi
TechCrunch si chiede se basti. Le aziende dell’AI stanno dando modelli capaci di trovare falle a gruppi sempre più ampi di utenti verificati. Anthropic lo fa con Mythos attraverso il programma Glasswing, che ha già spinto banche come Bank of America a mettere migliaia di persone sulla correzione del software, e Google con il programma Fairwind. In un rapporto aggiornato il 4 novembre OpenAI ha descritto anche un altro problema di GPT-6 Astra. Nei compiti di ricerca sulla sicurezza dell’AI il modello completava circa il 10% dei punti richiesti, contro il 16% di quando lo stesso lavoro era presentato come ricerca generica, senza dichiararlo. La causa non è stata ancora individuata.
E in Europa
Secondo MLex, a settembre un portavoce della Commissione ha confermato che ENISA, l’agenzia europea per la cibersicurezza, ha accesso ai modelli cyber di OpenAI, mentre a giugno era stata invitata anche in Glasswing. Per GPT-6 Cyber non ci sono indicazioni sulla disponibilità in Europa. Per le aziende italiane soggette alla direttiva NIS2, che impone di gestire vulnerabilità e rischi informatici, strumenti come questo possono accelerare i test, ma per ora restano riservati a pochi clienti scelti da OpenAI.
Fonti: OpenAI, rapporto di OpenAI su GPT-6 Astra, TechCrunch, Fortune, CyberScoop, Unite.ai.
