Si prevede che Huawei inizierà le spedizioni su larga scala del chip AI AIS 910C già nel prossimo mese, secondo le persone che hanno familiarità con la questione.
Mentre sono già state consegnate quantità limitate, lo spiegamento di massa segnerebbe un passo importante per le aziende cinesi in cerca di alternative domestiche ai semiconduttori di fabbricazione statunitense.
La mossa arriva in un momento in cui gli sviluppatori cinesi affrontano restrizioni più strette sull'accesso all'hardware Nvidia. Il governo degli Stati Uniti ha recentemente informato Nvidia che le vendite del suo chip AI H20 in Cina richiedono una licenza di esportazione. Ciò ha lasciato gli sviluppatori in Cina alla ricerca di opzioni in grado di supportare carichi di lavoro di formazione e inferenza su larga scala.
Il chip Huawei Ascend 910C non è costruito sui nodi di processo più avanzati, ma rappresenta una soluzione alternativa. Il chip è essenzialmente una versione a doppio pacchetto dei precedenti 910B, con due processori per raddoppiare le prestazioni e la memoria. Fonti che hanno familiarità con il chip affermano che si comporta comparativamente all'H100 di NVIDIA.
Invece di fare affidamento sulla produzione all'avanguardia, Huawei ha adottato un approccio a forza bruta, combinando più chip e interconnessi ottici ad alta velocità per aumentare le prestazioni. Questo approccio è fondamentale per il sistema di Cloudmatrix 384 di Huawei, una piattaforma di intelligenza artificiale a scala completa per la formazione di modelli di grandi dimensioni.
Cloudmatrix 384 presenta 384 chip Huawei Ascend 910C distribuiti in 16 rack comprendenti 12 rack di calcolo e quattro networking. A differenza dei sistemi basati su rame, la piattaforma di Huawei utilizza interconnessioni ottiche, consentendo una comunicazione ad alta larghezza di banda tra componenti del sistema. Secondo l'analisi della semianalisi, l'architettura include 6.912 ricetrasmettitori ottici LPO da 800 g per formare una rete ottica a mesh tutto per all-all.
Ciò consente al sistema di Huawei di fornire circa 300 petaflop di potenza di calcolo BF16 – superando il sistema GB200 NVL72 di NVIDIA, che raggiunge circa 180 petaflop BF16. Cloudmatrix rivendica anche vantaggi nella larghezza di banda e nella capacità di memoria più elevata, offrendo più del doppio della larghezza di banda e oltre 3,6 volte la capacità di memoria ad alta larghezza di banda (HBM).
I guadagni, tuttavia, non sono privi di inconvenienti. Si prevede che il sistema Huawei sia 2,3 volte meno efficiente per funzionamento del punto galleggiante rispetto al GB200 di Nvidia e ha una minore efficienza di potenza per unità di larghezza di banda e capacità di banda. Nonostante le prestazioni più basse per watt, il sistema di Huawei fornisce ancora l'infrastruttura necessaria per addestrare i modelli AI avanzati su vasta scala.
Le fonti indicano che la più grande fonderia della Cina, SMIC, sta producendo alcuni dei componenti principali per il 910C utilizzando il suo processo N+2 da 7 nm. I livelli di rendimento rimangono tuttavia una preoccupazione, e alcune delle 910c unità includono chip prodotti da TSMC per la società cinese Sophgo. Huawei ha negato l'uso di parti prodotte da TSMC.
Il Dipartimento del Commercio degli Stati Uniti sta attualmente studiando il rapporto tra TSMC e Sophgo dopo che un chip progettato da Sophgo è stato trovato nel precedente processore da 910B di Huawei. TSMC ha sostenuto di non fornire Huawei dal 2020 e continua a rispettare le normative sulle esportazioni.
Alla fine del 2023, Huawei iniziò a distribuire i primi campioni del 910C a società tecnologiche selezionate e aprì i suoi libri di ordine. La società di consulenza Albright Stonebridge Group ha suggerito che il chip probabilmente diventerà la scelta di riferimento per le aziende cinesi che costruiscono grandi modelli di intelligenza artificiale o dispiegano la capacità di inferenza, dati i controlli di esportazione in corso sui chip di fabbricazione statunitense.
Mentre Huawei Ascend 910c potrebbe non corrispondere a NVIDIA nell'efficienza dell'alimentazione o nella tecnologia di processo, segnala una tendenza più ampia. Le aziende tecnologiche cinesi stanno sviluppando alternative nostrane ai componenti stranieri, anche se ciò significa utilizzare metodi meno avanzati per ottenere risultati simili.
Con l'aumentare della domanda globale di intelligenza artificiale e delle restrizioni alle esportazioni, la capacità di Huawei di fornire una soluzione hardware di intelligenza artificiale scalabile a livello nazionale potrebbe aiutare a modellare il futuro dell'intelligenza artificiale della Cina, specialmente quando gli sviluppatori cercano di garantire le catene di approvvigionamento a lungo termine e ridurre l'esposizione al rischio geopolitico.
(Foto via Non esplodente)
Vedi anche: La svolta hardware AI di Huawei sfida il dominio di Nvidia
Vuoi saperne di più sull'intelligenza artificiale e sui big da parte dei leader del settore? Guardare AI e Big Data Expo si svolge ad Amsterdam, in California e a Londra. L'evento completo è co-localizzato con altri eventi principali tra cui Conferenza di automazione intelligente, Blockx, Settimana di trasformazione digitaleE Cyber Security & Cloud Expo.
Esplora altri prossimi eventi tecnologici aziendali e webinar alimentati da TechForge Qui.
Fonte: www.artificialintelligence-news.com
