SensoTempo ha lanciato il Galaxy Project, collaborando con quasi 20 partner per ampliare l’infrastruttura nazionale dei chip AI in Cina.
In un keynote intitolato “Trasformazione intelligente e simbiosi”, Yang Fan – co-fondatore dell’azienda e presidente del Large Device Business Group – ha illustrato ciò che SenseTime descrive come un circuito chiuso che collega tecnologia a livello di chip, partnership di ecosistemi e implementazione commerciale per la potenza di calcolo dell’intelligenza artificiale prodotta a livello nazionale.
Oltre al progetto Galaxy, SenseTime ha firmato un accordo per il calcolo spaziale con il produttore di satelliti Guoxing Aerospace e ha stretto una partnership di ricerca con cinque istituzioni – tra cui lo Shanghai Artificial Intelligence Laboratory – finalizzata ad applicazioni di calcolo scientifico.
Yang ha inquadrato i tempi attorno a tre tendenze convergenti: la domanda di token in aumento nelle implementazioni aziendali, l’adozione dell’intelligenza artificiale industriale che si avvicina ai casi d’uso rivolti ai consumatori e la commercializzazione dei chip nazionali che raggiunge un punto in cui i centri di calcolo intelligenti costruiti su silicio cinese possono essere mantenuti al passo.
Tuttavia, se quella finestra sia così aperta come sostiene SenseTime dipende in gran parte da numeri che la società non ha verificato in modo indipendente.
Le cifre relative alla produttività dei token sono contrassegnate da un grande asterisco
SenseTime afferma che la sua piattaforma per dispositivi su larga scala ora elabora una media di 2,42 trilioni di token al giorno e la società prevede che tale cifra salirà di 25 volte fino a 10 trilioni di token al giorno entro il quarto trimestre del 2026. Si tratta di una previsione, non di un risultato misurato, e gli acquirenti aziendali che valutano l’infrastruttura di SenseTime dovrebbero trattarla come tale fino a quando non inizieranno ad arrivare i dati trimestrali.
Le affermazioni sul rapporto costi-efficacia legate a tale crescita sono analogamente auto-riferite. SenseTime afferma che la sua tecnologia di inferenza ibrida eterogenea offre un aumento dell’85-152% nell’utilizzo dei FLOP dei modelli sui chip domestici tradizionali, insieme a un rapporto costo-efficacia di inferenza che l’azienda stima pari a 1,25 volte quello dei componenti della serie H di Nvidia.
Rispetto alle configurazioni di inferenza omogenee nazionali, SenseTime afferma un aumento di 2,5 volte nell’output di token a costo equivalente, un salto che spinge i cluster di inferenza ibridi ottimizzati oltre quella che l’industria precedentemente considerava la soglia minima di redditività per la potenza di calcolo domestica.
Nessuna di queste cifre viene fornita con benchmark di terze parti, e il divario tra il cluster di test ottimizzato di un fornitore e l’ambiente di produzione di un cliente – con le sue pipeline di dati irregolari e aggiornamenti firmware ritardati – tende ad essere il punto in cui tali numeri si attenuano.
Affermazioni di adattabilità e problema dei multi-chip
I chip IA domestici hanno storicamente lottato con uno stack software frammentato: i modelli addestrati per un’architettura spesso richiedono rielaborazioni per essere eseguiti su un’altra. SenseTime afferma di aver creato un livello di adattamento full-stack che comprende modelli, framework, operatori, toolchain e hardware per risolvere questo problema, con l’obiettivo di consentire ai clienti di migrare i carichi di lavoro tra i fornitori di chip nazionali senza estese riscritture.
L’azienda indica due esempi applicativi. In un carico di lavoro di previsione delle proteine a sequenza lunga AI4S, SenseTime afferma che l’ottimizzazione degli operatori fusi ha ridotto il tempo di previsione complessivo di un fattore tre. Nella generazione di video AIGC, afferma un rapporto di accelerazione parallela multi-scheda del 93% per i chip domestici che eseguono modelli DiT, insieme a quella che descrive come migrazione a costo zero per gli strumenti di sviluppo AI tradizionali.
Questi sono i tipi di cifre che si leggono bene in un test sandbox e contano molto di più una volta sottoposti a stress test rispetto a pipeline di clienti reali che utilizzano generazioni di hardware miste.
Le metriche energetiche ottengono un nuovo nome di benchmark
SenseTime ha introdotto una metrica chiamata Tokens Per Watt, posizionata come parametro sostitutivo per misurare l’efficienza dei data center AI, insieme a un agente di collaborazione per la potenza di calcolo che gestisce la pianificazione delle risorse, la previsione dei prezzi dell’elettricità e l’ottimizzazione dello stoccaggio dell’energia in quello che l’azienda descrive come un sistema dati a otto livelli con cinque catene decisionali.
Combinando calcolo, prezzi dell’elettricità e pianificazione automatizzata, SenseTime afferma un aumento dell’80% nella produzione di token per unità di costo dell’elettricità, prezzi medi dell’energia inferiori del 10% rispetto a data center regionali comparabili e un’accuratezza del 96% nella previsione del carico di calcolo.
Si tratta di affermazioni che vale la pena tenere d’occhio nei prossimi trimestri piuttosto che accettarle per oro colato. L’arbitraggio del prezzo dell’elettricità e l’accuratezza della previsione del carico tendono a funzionare in modo diverso una volta che un sistema attraversa un ciclo stagionale completo con una reale volatilità della domanda, piuttosto che nelle condizioni in cui un fornitore tipicamente esegue il suo progetto pilota.
L’impressionante elenco di partner spazia dai produttori di chip ai fornitori di componenti
L’ecosistema dichiarato del Galaxy Project comprende i fornitori di chip nazionali Cambricon, Muxi, Hygon, Huawei Ascend, Moore Threads, Sunrise e Biren Technology, il partner di componenti Xizhi Technology e aziende di infrastrutture tra cui Silicon Motion, Qujing Technology, Zhongke Jiahe, Qingcheng Jizhi, Sophon Information e Jiliu Technology.
SenseTime afferma che il piano prevede la costruzione di una “fabbrica di token”, cinque cluster informatici su quella che definisce una scala da “10.000 calorie”, un lavoro congiunto in dieci direzioni tecnologiche e il supporto per 200 startup di intelligenza artificiale.
“La produzione nazionale non riguarda semplicemente la sostituzione dei singoli chip, ma piuttosto uno sforzo di collaborazione lungo l’intera catena delle capacità di innovazione della Cina, dai chip e componenti alle infrastrutture e agli scenari applicativi”, ha affermato Yang.
Le scommesse spaziali, ottiche e quantistiche guardano più lontano
Oltre all’infrastruttura a breve termine, SenseTime ha delineato il lavoro sul calcolo ottico per l’efficienza dei data center, le applicazioni di calcolo quantistico nell’ottimizzazione dell’intelligenza artificiale e una partnership di calcolo spaziale con Guoxing Aerospace per costruire quella che le due società chiamano SenseTime Space Computing Constellation.
Il piano di SenseTime prevede il lancio del primo satellite nel 2026, con l’obiettivo di raggiungere migliaia di satelliti informatici e una capacità di elaborazione di decine di migliaia di petabyte entro il 2030.
Yang ha sostenuto che il valore si estende oltre le capacità grezze, inquadrando l’informatica spaziale come un modo per estendere la portata dei servizi cinesi di intelligenza artificiale in ambienti di rete deboli come le operazioni marittime e la risposta ai disastri e, per estensione, per supportare le esportazioni cinesi di intelligenza artificiale a livello internazionale.
L’obiettivo del 2030 è fissato a cinque anni di distanza e le implementazioni di computer satellitari di questa scala non hanno precedenti con cui misurare la tempistica.
L’infrastruttura fisica si estende da Shanghai a Riyadh
Sul campo, SenseTime afferma che la sua struttura di Shanghai gestisce il primo data center del paese classificato a quello che definisce il livello di elaborazione intelligente “5A”, gestendo oltre 20 trilioni di token al giorno in più di 20 settori. È stato lanciato un sito di Yancheng con una capacità iniziale di 3.000 petaflop focalizzato su applicazioni energetiche, manifatturiere ed economiche a bassa quota.
A Hong Kong, SenseTime sta costruendo quello che descrive come il più grande centro informatico domestico intelligente del territorio, con l’obiettivo di raggiungere i 40.000 petaflop entro il 2030. La società progetta inoltre quello che definisce il primo cluster informatico domestico d’oltremare della Cina in Arabia Saudita, posizionato come base informatica domestica full-stack per il Medio Oriente.
Dal punto di vista della ricerca, il legame di SenseTime con lo Shanghai AI Laboratory, l’Accademia Zhongguancun di Pechino, l’Accademia Shenzhen Hetao, lo Shanghai Algorithm Innovation Research Institute e la scuola di intelligenza artificiale dell’Università Jiao Tong di Shanghai mira a costruire una piattaforma condivisa che comprenda calcolo, strumenti e capacità di modelli per le scienze della vita, la scienza dei materiali e la ricerca manifatturiera. Yang ha definito l’intelligenza artificiale per la scienza “una leva chiave per l’innovazione paradigmatica nella ricerca di base”, collegando l’iniziativa alla più ampia spinta politica cinese “Intelligenza Artificiale+”.
La previsione di SenseTime di 10 trilioni di token al giorno entro il quarto trimestre del 2026 è la cifra da tenere in considerazione rispetto a ciò che la società riporta quando il trimestre si chiude effettivamente.
Vuoi saperne di più sull’intelligenza artificiale e sui big data dai leader del settore? Guardare Fiera dell’intelligenza artificiale e dei big data che si svolge ad Amsterdam, in California, e a Londra. L’evento completo è parte di TechEx ed è situato in concomitanza con altri importanti eventi tecnologici tra cui Fiera sulla sicurezza informatica e sul cloud. Clic Qui per ulteriori informazioni
AI News è alimentato da Media TechForge. Esplora altri prossimi eventi e webinar sulla tecnologia aziendale Qui.
Fonte: www.artificialintelligence-news.com
