I modelli cinesi a peso aperto sono economici. Washington sta decidendo quanto costerà. | Intelligenza-Artificiale

Le aziende che valutano i modelli cinesi a peso aperto questo mese si trovano ad affrontare una domanda che non ha nulla a che fare con i benchmark: se utilizzarne uno sarà ancora semplice tra un anno. Il Kimi K3 di Moonshot AI è arrivato il 16 luglio come il più grande modello a peso aperto mai rilasciato, e in pochi giorni ha riaperto una discussione politica a Washington che era stata dormiente per un anno.

Il risultato influenzerà le decisioni sugli appalti ben al di fuori degli Stati Uniti, perché i meccanismi in discussione – norme federali sugli appalti, liste nere di esportazione, avvisi di sicurezza – viaggiano attraverso gli stessi fornitori di servizi cloud che servono la maggior parte del mondo. L’innesco immediato è stato un post di Dean W. Ball, responsabile dei futuri strategici di OpenAI e fino a poco tempo fa consigliere senior sull’intelligenza artificiale alla Casa Bianca di Trump.

La sua valutazione del modello è stata ampiamente positiva: un modello molto buono, ha scritto, le cui prestazioni non pensava potessero essere spiegate dalla distillazione. Ha anche osservato che sembrava “molto affamato di token” e che non era ovvio per lui che fosse effettivamente economico da gestire, un avvertimento utile, dato che K3 viene lanciato con il massimo sforzo di ragionamento come unica impostazione e fattura una produzione a $ 15 per milione di token.

Poi ha previsto che l’amministrazione Trump alla fine avrebbe deciso che la sua migliore strategia era quella di creare un rischio normativo attorno ai modelli cinesi di peso aperto. Non un divieto, che ha definito uno dei motivi più stupidi nella politica dell’IA, ma una guida morbida da parte delle agenzie che suggeriscono che tali modelli potrebbero contenere backdoor. “Non è necessario che sia così ben giustificato”, ha scritto. Basta incertezza e le imprese regolamentate si ritireranno da sole.

Perché i modelli cinesi a peso aperto sono innanzitutto un problema commerciale

La reazione è stata feroce ed è venuta dagli americani più che da Pechino. David Sacks, co-presidente del Consiglio dei consulenti per la scienza e la tecnologia del presidente, ha affermato di non poter dire se Ball stesse confessando una strategia di cattura normativa o prevedendone una, e che in ogni caso, sfruttare l’incertezza normativa come strumento competitivo dovrebbe essere inaccettabile.

Ha aggiunto che i principali laboratori chiusi, già un duopolio in termini di entrate modello, vogliono che il governo elimini la concorrenza open source. Yann LeCun e Martin Casado sostengono che lo sviluppo aperto e quello proprietario possono coesistere. Ball in seguito ha chiarito che aveva previsto piuttosto che raccomandato, e ha ribattuto l’affermazione che i pesi aperti necessariamente rallentano il campo.

Sotto le personalità c’è un problema aritmetico. I laboratori chiusi hanno bisogno di entrate per token per giustificare il capitale che stanno raccogliendo per i data center, e modelli più economici a peso aperto comprimono tali entrate senza ridurre la quantità di intelligenza artificiale utilizzata, il punto sottolineato dal co-fondatore di Snorkel AI, Braden Hancock. TechCrunch. I dati di instradamento mostrano già il cambiamento: i modelli open-weight hanno gestito il 29% dei token attraverso il gateway di produzione di Vercel a giugno, rispetto a circa un nono di aprile, pur rappresentando meno del 4% della spesa.

Questa pressione arriva dall’interno del gruppo americano. GitHub ha realizzato il codice Kimi K2.7 di Moonshot generalmente disponibilenel selettore di modelli Copilot il 1° luglio, ospitato su Microsoft Azure. L’informazione riporta che Microsoft sta ora aggiungendo K3 ad Azure e valutando se è in grado di eseguire funzionalità Copilot attualmente gestite da modelli OpenAI e Anthropic, con potenziali risparmi di inferenza fino a 600 milioni di dollari.

Microsoft non ha confermato né la cifra né quali caratteristiche. Si tratta di una valutazione, non di un’implementazione, ma è il più grande cliente di entrambi i laboratori di frontiera americani, e valuta l’alternativa.

L’argomento della sicurezza, preso sul serio

Il motivo commerciale non rende falsa la preoccupazione per la sicurezza, e la sua versione più forte merita di essere menzionata. I pesi aperti non possono essere richiamati. Una volta che un modello è stato scaricato ed è in esecuzione all’interno di migliaia di organizzazioni, nessun fornitore può applicarvi patch, revocarlo o inviare una correzione, il che rappresenta un profilo di rischio sostanzialmente diverso da un’API ospitata. Il comportamento del modello è più difficile da verificare rispetto al codice del modello: una messa a punto fine può portare con sé pregiudizi o modalità di fallimento che nessuna ispezione della licenza rivelerebbe.

Il NIST lo ha già fatto in precedenza trovato le vulnerabilità della sicurezza nei modelli aperti di DeepSeek e, per i settori regolamentati, le domande sulla provenienza dei dati di addestramento e sulla gestione dei contenuti sono attive indipendentemente da dove è stato creato un modello.

La controargomentazione riguarda la proporzionalità piuttosto che il licenziamento. Sam Bresnick, ricercatore di Georgetown, ha sostenuto che fermare le vendite di Nvidia H200 in Cina rallenterebbe Pechino molto più che vietare i modelli aperti che gli americani vogliono utilizzare, mirando all’input piuttosto che all’output. E lo stesso Ball ha ammesso una versione di ciò nella sua seconda osservazione, attribuendo la strategia di peso aperto della Cina in parte alla mancanza di calcolo interno per servire i clienti, che la renderebbe in primo luogo un sottoprodotto non intenzionale dei controlli sulle esportazioni statunitensi.

Ciò che effettivamente è probabile che accada.

Axios ha riferito il 20 luglio, citando persone vicine all’amministrazione, che Commerce l’anno scorso ha valutato l’aggiunta di laboratori cinesi di intelligenza artificiale alla Entity List, che la NSA e l’Ufficio del direttore informatico nazionale hanno considerato di pubblicare un avviso sulle minacce ai laboratori cinesi di intelligenza artificiale e che la Casa Bianca ha considerato un ordine esecutivo che rende le società statunitensi responsabili di violazioni se utilizzano modelli cinesi. I funzionari preoccupati di soffocare l’innovazione hanno ucciso tutto.

Con la scomparsa del consigliere Sriram Krishnan e la forte presenza dei falchi della sicurezza, lo sforzo è ripreso, ma l’approccio descritto è quello delle regole sugli appalti, delle minacce dell’Entity List e della pressione pubblica piuttosto che del divieto. “Ciò che sta realmente accadendo è più lento e più duraturo”, ha detto una fonte Axios. Né la Casa Bianca né il Commercio hanno risposto Quello di Axios richieste di commento e Politico rapporti Il commercio non si muoverà a breve.

Per gli acquirenti al di fuori degli Stati Uniti, l’esposizione è indiretta ma reale. Una regola scritta per le industrie regolamentate americane e gli appalti federali non vincola una banca malese o una società di telecomunicazioni indonesiana. Gli hyperscaler sono la linea di trasmissione.

La maggior parte delle aziende in questa regione raggiunge Kimi K3 tramite Azure, AWS o Google Cloud anziché tramite l’API di Moonshot, e se Washington rende l’hosting di modelli cinesi open-weight abbastanza scomodo per questi fornitori, il modello lascia tranquillamente il catalogo a Kuala Lumpur nello stesso momento in cui lo lascia in Virginia.

Ball lo ha anticipato nel suo stesso post, sottolineando che i regolatori non vorrebbero spingere così tanto da far sì che gli hyperscaler smettano del tutto di servire i modelli cinesi, poiché ciò spingerebbe solo le startup verso fornitori meno affidabili. La soluzione più ovvia è tenere la propria copia. Moonshot pubblica i pesi del K3 il 27 luglio e da quel momento il modello non potrà più essere ritirato da chi lo avrà scaricato.

Ma come spiegato in precedenza, K3 è un modello difficile da ospitare autonomamente: Moonshot consiglia di servirlo su 64 o più acceleratori e il peso da solo arriva a circa 1,4 TB. Per la maggior parte delle aziende, il fallback è teorico.

Ciò lascia una domanda più ristretta di quanto suggeriscano i titoli. Non se i modelli cinesi open-weight siano sicuri o consentiti, ma se il modello specifico su cui ti basi sarà ancora nel catalogo del tuo fornitore di servizi cloud tra dodici mesi e quanto ti costerebbe spostarlo se non lo fosse. Questa è una domanda di due diligence e oggi è possibile rispondere.

Vedi di più: Modello open-weight Kimi K3: la più grande intelligenza artificiale cinese è una scommessa sulla memoria, non sul calcolo

Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni

AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.