Da allora, il modello a peso aperto Kimi K3 di Moonshot AI è stato letto quasi interamente attraverso il conteggio dei parametri lanciatoil 16 luglio. Con 2,8 trilioni di parametri, è il più grande modello a peso aperto rilasciato fino ad oggi. Le dimensioni dei modelli sono solitamente raggruppate in parentesi approssimative e 2,8 trilioni di round in quella che l’industria chiama classe 3T. Un livello in cui nessun modello apertamente disponibile era mai entrato prima.
La conclusione naturale è che Moonshot è riuscito ad aggirare le restrizioni informatiche statunitensi. Il blog tecnico dell’azienda suggerisce qualcosa di più specifico: K3 non evita il vincolo quanto lo riposiziona, scambiando calcolo con memoria a quasi ogni livello del progetto.
Vale la pena comprendere questo scambio, perché calcolo e memoria non sono vincoli intercambiabili e non sono ugualmente disponibili per un laboratorio cinese.
Perché il modello a peso aperto Kimi K3 è un problema di memoria
Due cose diverse determinano quanto costa gestire un modello di grandi dimensioni. Uno è la quantità di calcoli che la macchina esegue per produrre ogni parola. L’altro è quanto del modello deve essere tenuto pronto e immediatamente raggiungibile per tutto il tempo in cui funziona. Il primo è il calcolo. La seconda è la memoria. Inizialmente i controlli sulle esportazioni di chip hanno messo a dura prova la Cina, e il progetto di Moonshot si legge come un tentativo prolungato di spendere meno.
La mossa principale è una tecnica chiamata miscela di esperti. Invece di eseguire l’intero modello per ogni parola, K3 si divide in 896 sezioni specializzate e ne utilizza solo 16 alla volta, circa l’1,8% del totale. Il calcolo per parola diminuisce drasticamente. Il conto della memoria non si sposta affatto, perché tutti i 2,8 trilioni di parametri devono ancora essere caricati e pronti nel caso in cui vengano chiamati successivamente.
Quindi Moonshot ha seguito direttamente quel conto. Ha addestrato K3 a lavorare con quattro bit di precisione per parametro invece dei soliti sedici, un metodo noto come quantization-aware training, che l’azienda ha applicato dalla fase di messa a punto in poi e afferma di aver scelto “per un’ampia compatibilità hardware”, una frase su cui vale la pena soffermarsi, poiché viene letta come una copertura contro l’esecuzione su silicio che non è quello di Nvidia. I risparmi sono sostanziali. Un’analisi indipendente del rilascio colloca il modello a circa 1,4 TB in quel formato, contro i 5,6 TB di cui avrebbe bisogno con la massima precisione.
La seconda modifica, Kimi Delta Attention, mira a un diverso costo di memoria. Mentre un modello lavora su un documento molto lungo, accumula una memoria corrente di tutto ciò che ha già letto. Al limite pubblicizzato da K3 di un milione di token, poche migliaia di pagine, quell’archivio, non il modello stesso, diventa la cosa più grande nella memoria.
Moonshot è insolitamente diretto riguardo alla posta commerciale qui. Ha contribuito alla memorizzazione nella cache del codice del progetto di servizio open source vLLM e afferma che questa combinazione è ciò che gli consente di valutare K3 in modo competitivo nonostante le dimensioni del modello. Moonshot consiglia di far funzionare K3 su 64 o più acceleratori collegati insieme abbastanza vicini da comportarsi come un unico pool.
Questo è lo stesso approccio alla base dei sistemi CloudMatrix di Huawei e indica quale sia la vera soluzione alternativa. La memoria può essere raccolta su un gran numero di chip individualmente insignificanti. Il calcolo di livello didattico non può essere assemblato nello stesso modo.
Se questo pooling avvenga sul silicio cinese è una domanda a cui il blog non risponde. I test a livello di chip di Moonshot sono stati eseguiti su Nvidia H200S e su quella che descrive solo come una “GPGPU di un fornitore alternativo”, di cui si rifiuta di nominare. Altri risultati sono stati confrontati su una Nvidia L20, la scheda ridotta venduta in Cina in base alle norme sull’esportazione.
Il blog non dice dove si trova l’hardware H200, e la Camera degli Stati Uniti ha approvato un disegno di legge a gennaio per colmare la scappatoia del noleggio del cloud offshore che aveva consentito alle aziende cinesi di raggiungere da remoto acceleratori limitati. La ragione per cui tutto ciò è importante è che la memoria, non la potenza di elaborazione, è il settore in cui l’industria cinese dei chip è più indietro.
Nei colloqui commerciali dell’agosto 2025, Pechino ha chiesto un allentamento sulle restrizioni di memoria a larghezza di banda elevata piuttosto che sugli strumenti di litografia o sull’accesso a TSMC, un giusto segnale di ciò che i funzionari ritengono effettivamente vincolante. Si prevede che la produzione interna di quella memoria sarà di circa due milioni di stack quest’anno, sufficienti per circa 250.000-300.000 chip Huawei Ascend 910C, mentre SMIC ha una capacità di wafer per oltre un milione.
Ciò che le aziende possono effettivamente implementare
Per le aziende di questa regione, la questione pratica non è se K3 sia in cima alla classifica. La questione è se un modello open-weight di queste dimensioni sia effettivamente utilizzabile. Le imprese asiatiche adottano pesi aperti per tre ragioni – prezzo, sovranità dei dati e copertura linguistica regionale – e le banche e gli assicuratori in tutto il sud-est asiatico hanno sperimentato modelli aperti self-hosted appositamente per evitare che i record escano mai dai loro sistemi.
I pesi arriveranno il 27 luglio e qualsiasi organizzazione che possa permettersi l’hardware sarà libera di scaricare, modificare ed eseguire K3 all’interno delle proprie mura. La domanda è quanti possono farlo. Moonshot consiglia di servire il modello su 64 o più acceleratori collegati insieme come un unico pool, e i pesi da soli arrivano a circa 1,4 TB nel formato in cui viene spedito, sulla base di analisi indipendenti, prima che la memoria sia necessaria per elaborare un lungo documento.
Si tratta di un impegno relativo al data center, non alla sala server. Per la maggior parte delle imprese, il risultato pratico è affittare capacità dedicata anziché possederla. Ciò mantiene ancora i dati nel paese e sotto contratto, che è ciò che la maggior parte dei regolatori regionali chiede. Ciò che non garantisce è l’indipendenza dai fornitori di infrastrutture che ha portato molti di questi acquirenti ad aprire le ponderazioni.
Anche il software non è pronto. Le due principali modifiche all’architettura di K3 sono abbastanza nuove che gli strumenti open source standard per l’esecuzione dei modelli non le supportano ancora, e Moonshot afferma che sta lavorando con partner di inferenza e manutentori open source per allineare i dettagli tecnici prima del rilascio. I team che pianificano una distribuzione self-hosted dovrebbero considerare la data di lancio e la data utilizzabile come cose diverse.
Anche il prezzo si è spostato. K3 costa 3 dollari per milione di token di input, scendendo a 0,30 dollari quando il modello ha visto di recente quell’input, e 15 dollari per milione di token di output. Questo è ben al di sotto dei $ 50 di Fable 5 per l’output, ma molto al di sopra del GLM-5.2 di z.ai a $ 4,40 e DeepSeek V4 a $ 0,87. K3 non è più nella fascia di budget occupata dai suoi predecessori.
Si avvia anche con il massimo sforzo di ragionamento come unica impostazione, con modalità inferiori da seguire, quindi lunghe catene di ragionamento e passaggi ripetuti si sommano rapidamente. Le aziende dovrebbero fissare il budget sul costo di un’attività completata, non sul prezzo di listino.
Cosa viene affermato e cosa viene verificato
Arena ha posizionato K3 al primo posto nella valutazione del codice frontend con 1.679 punti, davanti a Fable 5, nei test per sviluppatori alla cieca, come riportato da L’hardware di Tom. Questo risultato è reale. È anche un punto di riferimento in un dominio.
Lo stesso Moonshot è più sobrio dei suoi titoli. L’azienda afferma che le prestazioni complessive di K3 sono ancora inferiori a quelle di Claude Fable 5 e GPT 5.6 Sol, ed elenca tre limitazioni: la qualità della generazione può diventare altamente instabile se un cablaggio non riesce a trasmettere contenuti di pensiero storico, il modello può prendere decisioni inaspettate per conto di un utente quando l’intento è ambiguo e mostra un notevole divario nell’esperienza dell’utente rispetto a Fable 5 e GPT 5.6 Sol.
Le sue stesse note a piè di pagina rivelano anche che Fable 5 ha effettuato fallback sul 35% dei compiti nella valutazione SWE Marathon di Moonshot, il che potrebbe aver influenzato il punteggio misurato di quel modello. Tutto il resto rimane una pretesa di prima parte. Nessun numero K3 pubblicato può essere verificato in modo indipendente finché i pesi non saranno pubblici.
Gli analisti della Bank of America, guidati da Alex Liu, hanno affermato in una nota che K3 mostra che la pre-formazione su larga scala combinata con il lavoro architettonico può ancora fornire guadagni rivoluzionari per i modelli cinesi di punta nonostante i vincoli di calcolo, che è la versione sobria dell’argomento, e più vicina a ciò che supporta il blog.
La direzione del viaggio non è in discussione. I modelli open-weight hanno gestito il 29% di tutti i token instradati attraverso il gateway di produzione di Vercel a giugno, rispetto a circa un nono del volume di aprile, pur rappresentando meno del 4% della spesa. Il 27 luglio è quando scopriremo quanto del K3 appartiene a quella colonna.
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
