La minaccia alla sicurezza informatica dell’intelligenza artificiale di Anthropic Mythos riporta Amodei alla Casa Bianca | Intelligenza-Artificiale

Quando abbiamo parlato del Project Glasswing all’inizio di questo mese, la storia riguardava un modello troppo pericoloso per essere rilasciato pubblicamente e cosa invece Anthropic ha deciso di farne. Quella storia si è spostata.

Venerdì, il CEO di Anthropic, Dario Amodei, è entrato nell’ala ovest per un incontro con il capo dello staff della Casa Bianca, Susie Wiles. Nella stanza era presente anche il ministro del Tesoro Scott Bessent. La Casa Bianca ha definito i colloqui “produttivi e costruttivi”. Antropico ha detto la stessa cosa. Quando un giornalista ha chiesto al presidente Trump della visita su una passerella a Phoenix, ha risposto “Chi?” e ha detto che “non aveva idea” che Amodei fosse lì.

A parte questo dettaglio, l’incontro stesso è uno dei capovolgimenti politici più sorprendenti nella storia recente dell’IA. Solo poche settimane fa, l’amministrazione Trump aveva dichiarato Anthropic un rischio per la catena di approvvigionamento – una designazione normalmente riservata agli avversari stranieri – e lo stesso Trump aveva affermato che l’amministrazione “non avrebbe più fatto affari con loro”.

Da allora un giudice federale di San Francisco ha bloccato l’applicazione di quella direttiva, mantenendo Anthropic idonea a lavorare con agenzie non militari mentre il contenzioso è in corso. La disputa del Pentagono rimane molto viva.

Ciò che ha cambiato i calcoli, almeno a livello della Casa Bianca, è stata la capacità di sicurezza informatica dell’AI di Anthropic Mythos. Nello specifico, il fatto che le agenzie stiano presumibilmente osservando che Mythos fa cose che nessun altro strumento può fare e non sono disposte a lasciarselo sfuggire.

Il modello e la politica

Come noi segnalato Quando Anthropic ha presentato Project Glasswing, Mythos Preview non era addestrato specificamente per il lavoro di sicurezza. La sua capacità di identificare e sfruttare autonomamente le vulnerabilità del software è emersa da miglioramenti generali nel ragionamento e nel codice, e ciò che ha scoperto dopo l’implementazione è stato sorprendente.

Durante i test interni, Mythos ha individuato migliaia di vulnerabilità precedentemente sconosciute e di elevata gravità in tutti i principali sistemi operativi e browser web, tra cui un bug di 27 anni in OpenBSD e un difetto di 16 anni in FFmpeg che aveva superato i test automatizzati cinque milioni di volte senza essere rilevato.

Invece di renderlo pubblico, Anthropic lo ha rilasciato solo a un gruppo selezionato di organizzazioni attraverso Project Glasswing – una coalizione che comprende AWS, Apple, Cisco, Google, Microsoft, Nvidia, CrowdStrike e JPMorganChase, tra gli altri – supportato da crediti d’uso fino a 100 milioni di dollari. Il modello viene utilizzato in modo offensivo, in senso controllato: trovare le vulnerabilità prima che lo faccia qualcun altro.

Il governo degli Stati Uniti ha osservato il funzionamento della coalizione e ha voluto intervenire. Le agenzie di intelligence e la Cybersecurity and Infrastructure Security Agency stanno già testando Mythos e, secondo quanto riportato, anche il Dipartimento del Tesoro ha espresso interesse. Axios. Il Tesoro e altre agenzie governative hanno espresso interesse ad aderire alla lista Glasswing e, prima dell’incontro di venerdì alla Casa Bianca, due fonti hanno detto ad Axios che un accordo in questo senso potrebbe essere raggiunto presto.

In un separato Axios rapporto, una preoccupazione sollevata è che Mythos e altri strumenti di intelligenza artificiale all’avanguardia potrebbero consentire agli hacker di violare il sistema finanziario statunitense. In alternativa, il rapporto stima che le aziende e le agenzie governative potrebbero utilizzare Mythos per rafforzare le proprie difese informatiche prima che i malintenzionati possano accedervi.

Quella tensione sul duplice uso è ora apertamente un problema politico. Il direttore informatico nazionale Sean Cairncross guiderà un gruppo di funzionari federali per identificare le vulnerabilità della sicurezza nelle infrastrutture critiche e rafforzare i sistemi governativi contro lo sfruttamento dell’intelligenza artificiale.

Dove si trova la situazione di stallo

L’incontro del venerdì è stato progettato per separare due conversazioni che si erano intrecciate. Entrando nella sessione, entrambe le parti hanno cercato di isolare la battaglia del Pentagono dal modo in cui il resto del governo si impegna con Anthropic e si prevede che i prossimi passi riguarderanno il modo in cui gli altri dipartimenti accedono a Mythos Preview, secondo fonti che hanno familiarità con i negoziati.

Lo ha detto un consigliere di Trump Axios: “Questo è un grosso problema. Tutti si lamentano. C’è tutto questo dramma. Quindi è stato chiesto a Susie di ascoltare Dario, determinare cosa è una stronzata e iniziare a tracciare una via da seguire.”

Un funzionario dell’amministrazione ha riassunto succintamente la dinamica attuale: “Ci sono progressi con la Casa Bianca. Non ci sono progressi con (il Dipartimento della) Guerra”. Quella divisione è significativa. Le agenzie civili come i Dipartimenti dell’Energia e del Tesoro sono responsabili della salvaguardia di settori critici, come la rete elettrica e il sistema finanziario.

Le loro preoccupazioni non riguardano le armi autonome o la sorveglianza. Vogliono l’abilità offerta da Mythos e non sono disposti a subire un danno collaterale in uno scontro tra il Pentagono e una società di intelligenza artificiale. Il DOD non ha commentato Mythos ma ha continuato a utilizzare i modelli Claude di Anthropic nella guerra con l’Iran. Vale la pena sedersi su quella nota a piè di pagina.

Pubblicamente, Anthropic ha anche fatto delle mosse che dimostrano di comprendere come funziona Washington. I documenti pubblici mostrano che Anthropic ha recentemente assunto la società di lobbying Ballard Partners – dove Wiles ha lavorato per anni – specificamente per la difesa degli appalti del Dipartimento della Guerra.

Cosa verrà dopo

Il contenzioso non è terminato. Una corte d’appello federale ha negato la richiesta di Anthropic di bloccare temporaneamente la lista nera del Pentagono; un giudice di San Francisco ha concesso un’ingiunzione preliminare in un caso separato. Anthropic resta escluso dai contratti del Dipartimento della Difesa, ma può continuare a collaborare con il resto del governo mentre entrambi i casi seguono il loro corso.

La Casa Bianca ha affermato che intende continuare il dialogo con Anthropic e altre società di intelligenza artificiale, e l’Ufficio di gestione e bilancio si sta già preparando a concedere alle agenzie l’accesso a Mythos per valutare le loro difese, secondo Bloomberg. Si tratta di un progresso significativo, anche se il Pentagono rimane il pezzo irrisolto.

Una fonte vicina ai negoziati lo ha detto chiaramente: “Sarebbe del tutto irresponsabile per il governo degli Stati Uniti privarsi dei progressi tecnologici offerti dal nuovo modello. Sarebbe un regalo per la Cina”.

Questo quadro – meno legato alla posizione legale di Anthropic, più a ciò a cui gli Stati Uniti non possono permettersi di rinunciare – è ciò che ha portato Amodei nell’ala ovest. Se il Pentagono lo seguirà mai è una questione diversa.

Vedi anche: Il rifiuto di Anthropic di armare l’intelligenza artificiale è esattamente il motivo per cui il Regno Unito lo vuole

Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. Questo evento completo fa parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni

AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.