華為引入了其AI CloudMatrix 384系統,這是一個大規模集群,旨在通過部署大量其上升的910C處理器,直接與NVIDIA領先的GB200 NVL72體系結構競爭。美國政府在4月15日左右在美國政府有效限制了NVIDIA的H20 AI芯片出口後不久,CloudMatrix 384代表了一種旨在填補空白的國內替代方案。

它實現了績效指標,在紙面上,在紙上超越了NVIDIA目前的旗艦

href=“ https://www.nvidia.com/en-us/data-center/gb200-nvl72/” target=“ _ black”> gb200 nvl72 在幾個地區的系統中,但是通過一個比silicosication的策略造成的策略,在穩定的效果下,

。使用AI中常見的BF16數值格式,可提供780個TFLOPS的雙芯片處理器。完整的CloudMatrix 384集群集成了384個這些加速器,

該數字超過了歸因於NVIDIA的72-GPU GB200 NVL72設置的大約180個pflops。華為的設計還包含更多的內存,與NVIDIA的13.8 TB相比,HBM的49.2 TB總HBM(高帶寬內存,一種可為處理器提供快速數據訪問的堆疊內存)和1229 TB/S的總HBM帶寬的1229 TB/s與576 TB/s。

通過部署超過NVIDIA比較系統的五倍超過五倍的加速器,實現了這種性能優勢。 CloudMatrix 384的總系統功率需求的估計為559 kW,幾乎是GB200 NVL72配置消耗的145 kW的四倍。

基於這些數字的計算表明,HUAWEI系統的計算是Huawei系統的2.3倍2.3倍少於BF16 COMPERT和1.8次/1.8次/1.8次/1.8次/1.8次/1.8次/1.8次/1.8次/1.8次/1.8次/1.8次/1.8倍/pe per的效率。 HBM容量的效率更接近,華為的系統使用了大約1.1倍的功率。

這種差異突出了對中國情況的戰略適應-努力限制使用最先進的,最先進的,最先進的芯片製造,同時擁有良好和相對便宜的能源能源基礎架構。據報導,中國部分地區的電價明顯下降,在2022年$ 91/mwh ,使Power-huggry Systems在經濟上更經濟上的經濟上比其他地方更可行。

啟用此大規模集群的關鍵是CloudMatrix 384的網絡體系結構。華為選擇了用於式間和內部內部通信的全光方法,並在全部網格中連接了384 Ascend 910c處理器。這涉及部署大量的6,912個線性可插入光學(LPO)收發器,每個發電機以800 Gbps的運行。

LPO技術,經常在行業報告中進行討論,例如從LightCounting中潛在的較低較低的plyste ,可用於傳統d的傳統範圍。網絡結構本身內的功率節省,儘管在如此大的複雜的光學網絡中管理信號完整性卻帶來了自身的挑戰。

所得的匯總內部帶寬超過5.5 pbps。半分析計算該系統的規模帶寬(在384節點簇中)和比例範圍的帶寬(用於連接多個簇)的2.1倍,與GB200 NVL72基線相比。 href=”https://pytorchtoatoms.substack.com/p/why-dgx-h100-nvl256-never-shipped” target=”_blank”>DGX H100 NVL256 “Ranger”platform, which also featured a large, optically connected multi-rack design deemed too complex and costly for production at the time.

導航制裁迷宮

執行此策略取決於確保儘管嚴格的美國出口控件確保高級組件。雖然中國的SMIC可以生產適合上升910c的計算機芯片的7nm級芯片,但分析表明,到目前為止部署的處理器主要利用TSMC製造的芯片。

huawei所謂的據稱,這些受限制性的wafers佔據了這些限制性的限制,可以通過2025年的速度到2025年的速度,而不是2025年,這是足夠的。反對華為。據報導,這項活動引起了我們的審查,TSMC可能面臨著4月初報告的重罰。

據報導,訪問必需的HBM2E記憶涉及類似的解決方法,通過分銷商Coasia Electronics引導三星組成部分,其收入明顯地增加了HBM Export Spertiant Inders Internient internient sprimity internient intern factiant。包含HBM的中間包裝,然後將其運送到中國,據稱將記憶提取用於華為最終的升級910C模塊。這些動作強調了實施技術出口控制的持續挑戰。

中國AI種族中計算出的賭注

cloudmatrix 384的發佈在戰略上是戰略性的。在以前的限制下,美國停止NVIDIA H20出口的行動取消了專門針對中國市場量身定制的關鍵競爭對手。 The H20, although a lower-performing part compared to unrestricted Nvidia GPUs and potentially Huawei’s prior 910B chip, was Nvidia’s main compliant offering for China, and the ban forced the company to take a $5.5 billion charge for related inventory.

This regulatory shift created a significant market opening, which Huawei is moving to fill not only with the CloudMatrix system but also its simultaneously announced next-gen Ascend 920 chip.

The situation prompted Nvidia CEO Jensen Huang to 訪問北京禁令後不久,據報導,他說,恩維迪亞希望“繼續與中國合作。”

分析師帕特里克·莫爾黑德(Patrick Moorhead)直言不諱地預測了這一結果:“中國公司將切換到Huweei。”這與更廣泛的中國技術目標相吻合,在諸如