Huaweiは、AI CloudMatrix 384システムを導入しました。これは、ASCend 910Cプロセッサのかなりの数を展開することにより、NVIDIAの主要なGB200 NVL72アーキテクチャと直接競合するように設計された大規模なクラスターです。米国政府が4月15日頃に中国へのNvidiaのH20 AIチップの輸出を事実上制限した直後に発表されたCloudMatrix 384は、空白を埋めることを目的とした国内の代替手段を表しています。 href=”https://www.nvidia.com/en-us/data-center/gb200-nvl72/”ターゲット=”_ blank”> gb200 nvl72 いくつかの地域のシステム。 AIで一般的なBF16数値形式を使用して、780 TFLOPSを提供するデュアルシップレットプロセッサ。 Full CloudMatrix 384クラスターは、これらの加速器の384を統合し、このパフォーマンスの利点は、NVIDIA比較システムの5倍以上のアクセラレータを展開することで達成され、急なエネルギーコストがあります。 CloudMatrix 384の合計システム電力要件は、GB200 NVL72構成によって消費される145 kWのほぼ4倍の559 kWと推定されています。 HBM容量のテラバイトあたりの効率はより近く、Huaweiのシステムは約1.1倍の電力を使用しています。
この格差は、中国の状況への戦略的適応を強調しています。中国の一部の電力価格は著しく低下しています。伝えられるところによると、 2022年に$ 91/MWh近くの以前のレベル。この大規模なクラスターを有効にすることは、CloudMatrix 384のネットワークアーキテクチャです。 Huaweiは、ラック間通信とラック中の両方の通信のためのすべての光学的アプローチを選択し、384 Ascend 910Cプロセッサをすべてのメッシュに接続しました。これには、それぞれ800 Gbpsで動作している大規模な6,912リニアプラグ可能な光学系（LPO）トランシーバーを展開することが含まれます。 href=”https://www.lightcounting.com/resource/42/resourcefile/research%20note%20on%20lpo%20webinar%20092923.pdf”target=”_ blank”>ライトカウントからネットワークファブリック自体内の節約は、このような大きく複雑な光学ネットワークの信号の整合性を管理することで、独自の課題を提示します。 Semianalysisが計算すると、システムは、GB200 NVL72ベースラインと比較して、スケールアップ帯域幅の2.1倍（384ノードクラスター内）とスケールアウト帯域幅の5.3倍（複数のクラスターを接続するため）を提供します。 href=”https://pytorchtooms.substack.com/p/why-dgx-h100-nvl256-never-shipped”target=”_ blank”> dgx h100 nvl256「レンジャー」プラットフォーム。 > 制裁の迷路をナビゲートする
この戦略の実行は、厳しい米国の輸出管理にもかかわらず、高度なコンポーネントの保護に依存します。中国のSMICはAscend 910Cのコンピューティングキップレットに適した7nmクラスのチップを生産できますが、分析では、これまでに展開されたプロセッサがTSMCによって製造されたシップレットを利用していることが示唆されています。 Huawei。この活動は、4月上旬に報告されているようにTSMCが有意な罰金に直面する可能性があると伝えられると伝えられています。
には、同様の回避策が含まれていると伝えられています。 HBMを含む中間パッケージは、その後、中国に出荷され、Huaweiの最終的なAscend 910Cモジュールで使用するために記憶が抽出されると言われています。これらの操作は、テクノロジーの輸出制御を実施するという継続的な課題を強調しています。 NVIDIA H20の輸出を停止する米国の行動により、以前の制限の下で中国市場向けに仕立てられた主要な競合他社が削除されました。 H20は、無制限のNvidia GPUSおよび潜在的にHuaweiの以前の910Bチップと比較して低いパフォーマンスの部分でしたが、Nvidiaの中国への主な準拠の提供であり、禁止は会社に関連する在庫に対して55億ドルの料金を請求することを余儀なくされました。同時に次世代Ascend 920チップを発表しました。
状況により、NvidiaのCEO Jensen Huangは禁止後まもなく北京を訪問し、伝えられるところによると、彼はNvidiaが「中国と協力し続けることを望んでいた」と述べた。 This aligns with broader Chinese technology goals, seen in initiatives like the phase-out of foreign telecom chips and the substantial “Big Fund”supporting domestic semiconductor development. HuaweiのCloudMatrix 384は、現在競争力のあるAIシステムパフォーマンスへの経路を示しており、地政学的な制約の下で複雑なグローバルサプライチェーンをナビゲートしながら、より高い電力使用を受け入れます。