Los chips DRAM HBM3 de Samsung, diseñados para su uso en los aceleradores de inteligencia artificial de Nvidia, han encontrado problemas de rendimiento durante pruebas. Las principales preocupaciones giran en torno a la generación excesiva de calor y el alto consumo de energía, que han generado dudas sobre su idoneidad para las necesidades informáticas de alto rendimiento de Nvidia. HBM significa memoria de alto ancho de banda y utiliza un diseño de chip que proporciona un mayor ancho de banda que los módulos DDR4 o GDDR5 mientras usa menos energía y en un factor de forma sustancialmente más pequeño. Esto se logra apilando hasta ocho DRAM terrajas y una matriz base opcional que puede incluir circuitos de amortiguación y lógica de prueba.
Preocupaciones sobre el consumo de calor y energía
Los problemas de consumo de energía y calor reportados no se limitan únicamente a los chips HBM3. Los chips HBM3E de Samsung, que se presentaron hace unos meses, también están experimentando problemas similares. Estos problemas se hicieron evidentes cuando los resultados de los chips HBM3E de 8 y 12 capas de Samsung se lanzaron en abril de 2024.
Por el contrario, SK Hynix comenzó a suministrar chips HBM3E a Nvidia en marzo de 2024, posicionándose como un actor clave en el mercado de HBM. SK Hynix es actualmente el mayor proveedor de chips HBM de Nvidia, que son esenciales para el funcionamiento de los aceleradores de IA. El dominio de Nvidia en el mercado de la IA, con una cuota del 80 %, hace que su certificación sea crucial para cualquier fabricante de chips HBM.
Esfuerzos de optimización de Samsung
Samsung ha reconocido la necesidad de optimización junto con los requisitos del cliente. La empresa ha estado trabajando estrechamente con los clientes para abordar estos problemas y se ha esforzado durante más de un año para superar las rigurosas pruebas de Nvidia. Los recientes cambios de liderazgo de Samsung, incluido el nombramiento de un ex experto en desarrollo de memoria flash DRAM y NAND, subrayan su compromiso de resolver estos desafíos.
La certificación de Nvidia es vital para las ambiciones de Samsung en el mercado de HBM. Los problemas no resueltos de consumo de energía y calor han ensombrecido las perspectivas de Samsung. Sigue siendo incierto si estos problemas podrán abordarse con prontitud. El respaldo del CEO de Nvidia, Jensen Huang, al chip de memoria HBM3E 12H (12 capas) de Samsung en la conferencia GTX AI 2024, donde escribió”Jensen Approved”en el chip, resalta la importancia de esta asociación.
La capacidad de Samsung para superar estos desafíos no sólo es fundamental para su negocio sino también para la industria en general. Tanto AMD como Nvidia están interesados en que Samsung resuelva estos problemas para garantizar un suministro estable de chips HBM de múltiples proveedores, lo que ayudaría a mantener los precios competitivos. Samsung ya está suministrando chips HBM a AMD, lo que enfatiza aún más la necesidad de soluciones de memoria confiables y eficientes.
Samsung tiene como objetivo comenzar la producción en masa de chips HBM3E antes de finales del segundo trimestre del año. Los esfuerzos para optimizar sus chips HBM en colaboración con los clientes reflejan su determinación de asegurar un punto de apoyo en el competitivo mercado de hardware de IA. El resultado de estos esfuerzos tendrá un impacto significativo en el panorama futuro de los aceleradores de IA y la informática de alto rendimiento.
