ชิป HBM3 DRAM ของ Samsung ออกแบบมาเพื่อใช้ในการเร่งความเร็ว AI ของ Nvidia ประสบปัญหาด้านประสิทธิภาพระหว่าง การทดสอบ ข้อกังวลหลักเกี่ยวข้องกับการสร้างความร้อนที่มากเกินไปและการใช้พลังงานสูง ซึ่งทำให้เกิดข้อสงสัยเกี่ยวกับความเหมาะสมสำหรับความต้องการด้านการประมวลผลประสิทธิภาพสูงของ Nvidia HBM ย่อมาจาก High Bandwidth Memory โดยใช้การออกแบบชิปที่ให้แบนด์วิธสูงกว่าโมดูล DDR4 หรือ GDDR5 ในขณะที่ใช้พลังงานน้อยกว่าและอยู่ในฟอร์มแฟคเตอร์ที่เล็กกว่ามาก ซึ่งทำได้โดยการซ้อนกันได้ถึงแปด DRAM ดาย และดายฐานเสริมซึ่งอาจรวมถึงวงจรบัฟเฟอร์และตรรกะการทดสอบ
ข้อกังวลเรื่องความร้อนและการใช้พลังงาน
ปัญหาความร้อนและการใช้พลังงานที่รายงานไม่ได้แยกอยู่เฉพาะชิป HBM3 เพียงอย่างเดียว ชิป HBM3E ของ Samsung ซึ่งเปิดตัวเมื่อไม่กี่เดือนก่อนก็ประสบปัญหาที่คล้ายกันเช่นกัน ปัญหาเหล่านี้เห็นได้ชัดเจนเมื่อผลลัพธ์ของชิป HBM3E 8 เลเยอร์และ 12 เลเยอร์ของ Samsung เปิดตัวในเดือนเมษายน 2024
ในทางตรงกันข้าม SK Hynix เริ่มจัดหาชิป HBM3E ให้กับ Nvidia ในเดือนมีนาคม 2024 โดยวางตำแหน่งตัวเองเป็น ผู้เล่นหลักในตลาด HBM ปัจจุบัน SK Hynix เป็นซัพพลายเออร์ชิป HBM รายใหญ่ที่สุดของ Nvidia ซึ่งจำเป็นต่อการทำงานของตัวเร่งความเร็ว AI การครอบงำตลาด AI ของ Nvidia ด้วยส่วนแบ่ง 80% ทำให้การรับรองเป็นสิ่งสำคัญสำหรับผู้ผลิตชิป HBM ทุกราย
ความพยายามในการเพิ่มประสิทธิภาพของ Samsung
Samsung รับทราบถึงความจำเป็นในการเพิ่มประสิทธิภาพควบคู่ไปกับความต้องการของลูกค้า บริษัทได้ทำงานอย่างใกล้ชิดกับลูกค้าเพื่อแก้ไขปัญหาเหล่านี้ และพยายามมานานกว่าหนึ่งปีในการผ่านการทดสอบอันเข้มงวดของ Nvidia การเปลี่ยนแปลงความเป็นผู้นำล่าสุดของ Samsung รวมถึงการแต่งตั้งอดีตผู้เชี่ยวชาญในการพัฒนา DRAM และ NAND flash ตอกย้ำความมุ่งมั่นในการแก้ไขปัญหาความท้าทายเหล่านี้
การรับรองจาก Nvidia มีความสำคัญต่อความทะเยอทะยานของ Samsung ในตลาด HBM ปัญหาความร้อนและการใช้พลังงานที่ยังไม่ได้รับการแก้ไขทำให้เกิดเงาเหนือแนวโน้มของ Samsung ยังไม่แน่ใจว่าปัญหาเหล่านี้จะได้รับการแก้ไขอย่างทันท่วงทีหรือไม่ Jensen Huang ซีอีโอของ Nvidia รับรองชิปหน่วยความจำ HBM3E 12H (12 เลเยอร์) ของ Samsung ในการประชุม GTX AI 2024 ซึ่งเขาเขียนว่า”Jensen Approved”บนชิป เน้นย้ำถึงความสำคัญของความร่วมมือครั้งนี้
ความสามารถของ Samsung ในการเอาชนะความท้าทายเหล่านี้ไม่เพียงแต่มีความสำคัญต่อธุรกิจของตนเท่านั้น แต่ยังรวมถึงอุตสาหกรรมในวงกว้างด้วย ทั้ง AMD และ Nvidia ต่างกระตือรือร้นที่จะให้ Samsung แก้ไขปัญหาเหล่านี้เพื่อให้แน่ใจว่ามีอุปทานชิป HBM ที่เสถียรจากผู้ขายหลายราย ซึ่งจะช่วยให้ราคาสามารถแข่งขันได้ Samsung กำลังจัดหาชิป HBM ให้กับ AMD อยู่แล้ว โดยเน้นย้ำถึงความต้องการโซลูชันหน่วยความจำที่เชื่อถือได้และมีประสิทธิภาพ
Samsung ตั้งเป้าที่จะเริ่มการผลิตชิป HBM3E จำนวนมากก่อนสิ้นไตรมาสที่สองของปี ความพยายามในการเพิ่มประสิทธิภาพชิป HBM โดยร่วมมือกับลูกค้า สะท้อนให้เห็นถึงความมุ่งมั่นของบริษัทที่จะรักษาตำแหน่งในตลาดฮาร์ดแวร์ AI ที่มีการแข่งขันสูง ผลลัพธ์ของความพยายามเหล่านี้จะส่งผลกระทบอย่างมีนัยสำคัญต่อภูมิทัศน์ในอนาคตของเครื่องเร่งความเร็ว AI และการประมวลผลประสิทธิภาพสูง