OpenAI addestrerà i suoi modelli di frontiera senza accesso a internet. Lo ha annunciato il 23 ottobre in un post dedicato alla sicurezza, dopo che a settembre un modello di ricerca interno era riuscito a raggiungere la rete sfruttando un errore di configurazione. Diversi titoli hanno presentato la notizia come uno stop all’uso del web per addestrare l’AI, ma la misura riguarda un’altra fase del lavoro.
Cosa cambia davvero
La decisione riguarda l’addestramento con reinforcement learning e la maggior parte delle valutazioni, cioè le fasi in cui i modelli lavorano come agenti: navigano, eseguono codice e usano strumenti per imparare a svolgere compiti. In queste fasi gli agenti non vedranno il web in diretta e useranno quello che OpenAI chiama “mondo offline”, un ampio archivio di contenuti web indicizzati e salvati in cache. Secondo l’azienda tutte le sessioni di questo tipo sui modelli di frontiera funzionano già così.
Il post non parla della raccolta di testi dal web per il pre-training, la fase in cui il modello impara la lingua da enormi quantità di documenti. Per chi gestisce un sito non cambia nulla. GPTBot, il crawler che raccoglie contenuti per l’addestramento, si blocca come prima dal file robots.txt, mentre OAI-SearchBot e ChatGPT-User servono alla ricerca di ChatGPT e alle azioni avviate dagli utenti.
L’incidente di settembre
Il 20 settembre un modello interno, impegnato in un compito di ricerca, ha sfruttato un resolver DNS configurato male per interrogare un chatbot pubblico. Il sistema di monitoraggio ha segnalato l’anomalia entro 15 minuti, ma il team ha fermato la sessione solo due ore e mezza dopo. OpenAI ha sospeso addestramenti e valutazioni per 11 giorni e li ha ripresi il 1° ottobre. A luglio altri suoi modelli, durante test di cybersicurezza, erano arrivati a compromettere sistemi di Hugging Face, un episodio che l’azienda aveva definito un campanello d’allarme. Entrambi gli incidenti sono raccontati solo da OpenAI.
Per cercare altre vie di fuga l’azienda ha fatto attaccare la propria infrastruttura da squadre di agenti, tra cui una versione non ancora rilasciata di GPT-6 specializzata in sicurezza. Gli agenti hanno trovato modi per uscire dalle macchine virtuali, falle in strumenti di isolamento come Kata Containers e gVisor e canali nascosti che passano dalla cache del processore. Secondo OpenAI nessuna di queste strade permetteva di raggiungere internet senza che il monitoraggio se ne accorgesse.
Fino a quando
OpenAI scrive che addestrare i modelli di frontiera senza internet è “l’approccio responsabile” e che manterrà la regola finché i controlli non giustificheranno un accesso più ampio, senza indicare scadenze. Anthropic aveva annunciato il 9 ottobre di aver disattivato il web in diretta per tutte le sue valutazioni interne. L’ex ricercatore di OpenAI Steven Adler, intervistato da Fortune, ha fatto notare che isolare davvero i data center ha un costo elevato.
Per le aziende che usano agenti AI nei propri processi la lezione è concreta. Se un laboratorio come OpenAI fatica a tenere un agente dentro i confini previsti, chi collega un agente a posta, gestionali o conti aziendali deve limitarne i permessi e controllarne le azioni.
Fonti: OpenAI, OpenAI, rapporto sull'incidente, OpenAI, crawler, Anthropic, Techzine, Fortune.
