Dieci aziende dell’intelligenza artificiale, tra cui OpenAI, Anthropic, Microsoft e Mistral, si sono impegnate a dotarsi di meccanismi per spegnere i propri modelli in caso di emergenza. L’impegno è contenuto nell’Appello di Parigi per la sicurezza dell’AI, pubblicato dall’Eliseo il 9 novembre dopo una videoconferenza organizzata da Emmanuel Macron. L’elenco dei paesi firmatari è aperto e in pochi giorni è passato da sei a sedici. L’Italia non c’è.
Cosa prevede
Gli sviluppatori promettono sistemi di sicurezza che permettano di bloccare il funzionamento dei modelli sotto il loro controllo, anche durante l’addestramento e l’uso interno, con limitazioni, pause o spegnimenti. Il testo non fissa standard tecnici, soglie o scadenze. A decidere lo spegnimento è lo stesso sviluppatore, e i modelli open-weight già distribuiti restano fuori perché non sono più sotto il suo controllo. Si tratta di un impegno politico e volontario, senza sanzioni né un organismo che ne verifichi il rispetto.
L’appello chiede anche un quadro comune per valutare i rischi dei modelli più avanzati, dagli attacchi informatici alle armi chimiche e biologiche fino alla perdita di controllo, con i risultati non sensibili raccolti in un archivio condiviso. Le aziende si impegnano a dichiarare capacità e limiti dei modelli, a sottoporsi a valutazioni indipendenti quando il rischio lo giustifica e a tutelare chi segnala problemi. I governi dovrebbero invece chiarire chi risponde dei danni su larga scala. Sono previsti infine sistemi di allerta rapida per gli incidenti informatici gravi e per quelli legati al controllo dell’AI.
Chi ha firmato e chi no
All’inizio i paesi erano sei, cioè Francia, Canada, Finlandia, Norvegia, Paesi Bassi e Bahrein. Il sito dell’Eliseo ora ne elenca sedici, tra cui Austria, Irlanda, Portogallo, Lussemburgo ed Estonia. Mancano Italia, Germania, Regno Unito, Giappone, Cina e Stati Uniti, anche se alla videoconferenza hanno partecipato il segretario al Tesoro americano Scott Bessent e i primi ministri britannico e giapponese. Oltre a OpenAI, Anthropic, Microsoft e Mistral hanno aderito Hugging Face, Cohere, Black Forest Labs, Sakana AI, Synthesia e l’italiana Domyn, mentre Google DeepMind, Meta e xAI non compaiono.
Le critiche
Anche alcuni firmatari chiedono di più. Il centro francese per la sicurezza dell’AI CeSIA lamenta l’assenza di soglie di rischio comuni e di un accesso garantito per chi deve testare i modelli, e vorrebbe che i governi potessero sospenderli. “Queste decisioni devono spettare alle autorità pubbliche”, ha detto il direttore Charbel-Raphaël Ségerie. Secondo il Globe and Mail, senza Stati Uniti e Cina l’effetto pratico sarà limitato. A settembre, a New York, una ventina di paesi tra cui Germania e Spagna avevano già sottoscritto un appello per il controllo dei modelli più avanzati promosso da Finlandia e Norvegia, che la Francia allora non aveva firmato.
Per l’Italia e il resto dell’Unione il riferimento resta l’AI Act. Per i modelli di uso generale con rischio sistemico prevede già valutazioni, test contro gli attacchi e segnalazione degli incidenti gravi, sotto il controllo dell’Ufficio europeo per l’AI, che ha appena avviato le prime richieste ai fornitori. A differenza dell’appello, queste regole sono vincolanti e prevedono sanzioni.
Fonti: Eliseo, governo del Canada, The Decoder, The Next Web, The Globe and Mail, Le Monde Informatique.
