Ang HBM3 DRAM chips ng Samsung, idinisenyo para gamitin sa mga AI accelerator ng Nvidia, ay nakatagpo ng mga isyu sa pagganap habang pagsubok. Ang mga pangunahing alalahanin ay umiikot sa labis na pagbuo ng init at mataas na pagkonsumo ng kuryente, na nagdulot ng mga pagdududa tungkol sa kanilang pagiging angkop para sa mataas na pagganap ng mga pangangailangan sa computing ng Nvidia. Ang HBM ay kumakatawan sa High Bandwidth Memory, gamit ang isang chip design na nagbibigay ng mas mataas na bandwidth kaysa sa DDR4 o GDDR5 modules habang gumagamit ng mas kaunting power at sa isang mas maliit na form factor. Nakakamit ito sa pamamagitan ng pag-stack ng hanggang walong DRAM dies at isang opsyonal na base die na maaaring magsama ng buffer circuitry at pansubok na logic.
Mga Alalahanin sa Heat at Power Consumption
Ang mga naiulat na problema sa init at paggamit ng kuryente ay hindi nakahiwalay sa HBM3 chips lamang. Ang HBM3E chips ng Samsung, na ipinakita ilang buwan na ang nakalipas, ay nakakaranas din ng mga katulad na isyu. Ang mga problemang ito ay naging maliwanag nang ang mga resulta ng 8-layer at 12-layer na HBM3E chip ng Samsung ay inilabas noong Abril 2024.
Sa kabaligtaran, nagsimula ang SK Hynix na mag-supply ng HBM3E chips sa Nvidia noong Marso 2024, na ipinoposisyon ang sarili bilang isang pangunahing manlalaro sa merkado ng HBM. Ang SK Hynix ay kasalukuyang pinakamalaking supplier ng HBM chips ng Nvidia, na mahalaga para sa paggana ng mga AI accelerators. Ang pangingibabaw ng Nvidia sa merkado ng AI, na may 80% na bahagi, ay ginagawang mahalaga ang sertipikasyon nito para sa anumang tagagawa ng HBM chip.
Mga Pagsisikap sa Pag-optimize ng Samsung
Kinilala ng Samsung ang pangangailangan para sa pag-optimize kasabay ng mga kinakailangan ng customer. Ang kumpanya ay nakikipagtulungan nang malapit sa mga kliyente upang matugunan ang mga isyung ito at nagsusumikap nang higit sa isang taon upang makapasa sa mahigpit na pagsubok ng Nvidia. Ang mga kamakailang pagbabago sa pamumuno ng Samsung, kabilang ang paghirang ng dating eksperto sa pag-develop ng DRAM at NAND flash, ay binibigyang-diin ang pangako nitong lutasin ang mga hamong ito.
Ang sertipikasyon mula sa Nvidia ay mahalaga para sa mga ambisyon ng Samsung sa HBM market. Ang hindi nalutas na init at mga isyu sa pagkonsumo ng kuryente ay nagbigay ng anino sa mga prospect ng Samsung. Ito ay nananatiling hindi tiyak kung ang mga problemang ito ay maaaring matugunan kaagad. Ang pag-endorso ni Nvidia CEO Jensen Huang sa HBM3E 12H (12-layer) memory chip ng Samsung sa kumperensya ng GTX AI 2024, kung saan isinulat niya ang”Jensen Approved”sa chip, ay nagha-highlight sa kahalagahan ng partnership na ito.
Ang kakayahan ng Samsung na malampasan ang mga hamong ito ay hindi lamang kritikal para sa negosyo nito kundi pati na rin sa mas malawak na industriya. Parehong gusto ng AMD at Nvidia na lutasin ng Samsung ang mga isyung ito upang matiyak ang isang matatag na supply ng HBM chips mula sa maraming vendor, na makakatulong na mapanatiling mapagkumpitensya ang mga presyo. Ang Samsung ay nagbibigay na ng HBM chips sa AMD, higit na binibigyang-diin ang pangangailangan para sa maaasahan at mahusay na mga solusyon sa memorya.
Layunin ng Samsung na simulan ang mass production ng HBM3E chips bago matapos ang ikalawang quarter ng taon Ang mga pagsisikap na i-optimize ang mga HBM chips nito sa pakikipagtulungan sa mga customer ay nagpapakita ng determinasyon nito na magkaroon ng foothold sa mapagkumpitensyang AI hardware market.
