Huawei har introdusert sitt AI CloudMatrix 384-system, en storstilt klynge designet for å konkurrere direkte med NVIDIAs ledende GB200 NVL72-arkitektur ved å distribuere et betydelig antall Ascend 910c-prosessorer. KLODMATRIX 384 representerer et innenlandsk alternativ som tar sikte på å fylle tomrommet.
er kunngjort kort tid etter at den amerikanske regjeringen effektivt begrenset eksporten. href=”https://www.nvidia.com/en-us/data-center/gb200-nvl72/”Target=”_ Blank”> GB200 NVL72 , når anslagsvis 300 pflops av tett BF16-ytelse.
Dette tallet overstiger omtrent 180 PFLOPS tilskrevet NVIDIAs 72-GPU GB200 NVL72-oppsett. Huaweis design pakker også betydelig mer minne, med 49,2 TB av total HBM (høy båndbreddeminne, en type stablet minne som gir rask datatilgang for prosessorer) kapasitet sammenlignet med NVIDIAs 13,8 TB, og 1229 TB/S av Total HBM Bandwidth versus 576 TB/s.
Effektivitet
Denne ytelsesfordelen, oppnådd ved å distribuere over fem ganger så mange akseleratorer som NVIDIA-sammenligningssystemet, kommer til en bratt energikostnad. CloudMatrix 384s totale systemkrav er estimert til 559 kW, nesten fire ganger 145 kW som konsumeres av GB200 NVL72-konfigurasjonen.
beregninger basert på disse tallene indikerer HUAWEI-systemet er 2,3 ganger mindre effekt-effekt per tfloP av BF16 Compute. Effektivitet per terabyte av HBM-kapasitet er nærmere, med Huaweis system som bruker omtrent 1,1 ganger mer kraft.
Dette ulikheten fremhever en strategisk tilpasning til Kinas omstendigheter-som kjemper med begrenset tilgang til den mest avanserte, kraftffektive brikkproduksjonen mens du har hatt en annen og relativt rimelig energiinfrastruktur. Elektrisitetspriser i deler av Kina har særlig redusert, angivelig Tidligere nivåer nær $ 91/MWh i 2022 , og gjør Power-Hungry Systems mer økonomisk effektivt enn de kan være andre steder. Ryggrad
Nøkkel for å aktivere denne storskala klyngen er CloudMatrix 384s nettverksarkitektur. Huawei har valgt en all-optisk tilnærming for både inter-rack og intra-rack-kommunikasjon, og forbinder 384 Ascend 910C-prosessorer i et alt-til-alt nett. Dette innebærer å distribuere en massiv 6.912 lineære pluggable optikk (LPO) transceivere, som hver opererer med 800 Gbps.
LPO-teknologi, ofte omtalt i bransjerapporter som de , blir sett på en potensiell DATA-ATROUS TOUTS TORS TORSE TORSE TORSER TORSE TORSER TOMPLITIALT TUMMERTIO på LightCounting . Å tilby noen strømbesparelser i selve nettverksstoffet, selv om det å håndtere signalintegritet i et så stort, komplekst optisk nettverk presenterer sine egne utfordringer.
Det resulterende samlede interne båndbredden overgår 5,5 pbps. Semianalyse beregner at systemet tilbyr 2,1 ganger oppskalingsbåndbredden (innenfor 384-node-klyngen) og 5,3 ganger skala-ut båndbredden (for tilkobling av flere klynger) sammenlignet med GB200 NVL72 til NVI-RACKS og P>
den totale 16-racksystemet, Bear med 12-rekken. uutgitt dgx h100 Tid.
Navigering av sanksjonene labyrint
Utførelse av denne strategien avhenger av å sikre avanserte komponenter til tross for strenge amerikanske eksportkontroller. Mens Kinas smic kan produsere 7nm-klasse-brikker som er egnet for Ascend 910c’s Compute Chiplets, antyder analyse at prosessorene som er distribuert så langt først og fremst bruker chiplets fremstilt av TSMC.
huawei angivelig sikret disse begrensede wafene-potensielt nok for en million, 910c. Sanksjoner mot Huawei. Denne aktiviteten førte angivelig til at amerikansk granskning, med TSMC som potensielt kan ha en betydelig bot som rapportert i begynnelsen av april.
Å få tilgang til essensielt HBM2E-minne innebærer angivelig en lignende løsning, kanaliserer SAMSUNG-komponenter gjennom distributøren COASIA Electronics, hvis inntektsinntekter som er mer Mellompakker som inneholder HBM, som deretter blir sendt til Kina der minnet påstått blir trukket ut for bruk i Huaweis endelige oppstigning 910C-moduler. Disse manøvrene understreker den pågående utfordringen med å håndheve teknologieksportkontroll.
En beregnet gamble i Kinas AI-løp
CloudMatrix 384-lansering er strategisk tidsbestemt. Den amerikanske handlingen som stanset NVIDIA H20-eksport fjernet en viktig konkurrent som er spesielt skreddersydd for det kinesiske markedet under tidligere begrensninger. Selv om en lavere ytelsesdel sammenlignet med ubegrenset Nvidia GPU-er og potensielt Huawei’s Prior 910b-brikke, var Nvidias viktigste kompatible tilbud for Kina, og forbudet tvang selskapet til å ta en $ 5,5 milliarder dollar for relatert varelager.
Dette regulatoriske skiftet skapte en betydelig markedsåpning, som HU er å flytte til å gjøre det ikke med å ta en $ 5,5 milliarder dollar, og det er ikke å ta en netto. simultaneously announced next-gen Ascend 920 chip.
The situation prompted Nvidia CEO Jensen Huang to Besøk Beijing Kort tid etter forbudet, hvor han angivelig uttalte at Nvidia håpet “å fortsette å samarbeide med Kina.”
Analytiker Patrick Moorhead spådde utfallet:”Kinesiske selskaper skal bare bytte til Huawei.”Dette stemmer overens med bredere kinesiske teknologimål, sett i initiativer som