SK Hynix ha anunciado que ha desarrollado las primeras pilas de memoria HBM3 de 24 GB y 12 capas de la industria que ofrecen alta densidad y un ancho de banda extremo de 819 GB/s. Los productos 12-Hi HBM3 mantienen la misma altura que los productos HBM3 de 8 capas existentes de la empresa, lo que significa que son fáciles de implementar.
El producto KGSD (conocido como Good Stack Die) de 24 GB HBM3 de SK Hynix coloca doce dispositivos de memoria de 16 Gb conectados mediante vías de silicio (TSV) en una capa base con una interfaz de 1024 bits. El dispositivo cuenta con una velocidad de transferencia de datos de 6400 MT/s y, por lo tanto, todo el módulo HBM3 de 24 GB ofrece un ancho de banda de 819,2 GB/s.
Según el subsistema de memoria real, dichos módulos pueden habilitar 3,2 TB/s – 4,915 TB/s de ancho de banda para 96 GB de memoria en una interfaz de 4096 bits o 144 GB de memoria en una interfaz de 6140 bits, respectivamente. Para poner los números en contexto, H100 NVL de Nvidia, la implementación de HBM3 más avanzada hasta la fecha, cuenta con 96 GB de memoria con 3,9 TB/s de ancho de banda para cada una de sus dos GPU de cómputo GH100.
Apilar 12 capas de DRAM de HBM una encima de otra es un desafío por varias razones. En primer lugar, es difícil perforar unos 60 000 o más orificios TSV a través del paquete para conectar las doce capas. En segundo lugar, los paquetes 12-Hi HBM DRAM no pueden ser físicamente superiores a los 8-Hi HBM KGSD (normalmente, 700-800 micras, 720 micras en el caso de Samsung), por lo que será extremadamente complicado (si es que es posible) instalar tales HBM3 KGSD junto a una CPU o una GPU que tienen una altura fija. Con ese fin, los fabricantes de DRAM como SK Hynix deben reducir el grosor de una capa de DRAM individual sin sacrificar el rendimiento o el rendimiento (lo que genera una gran cantidad de desafíos) o reducir la brecha entre las capas y reducir la capa base.
SK Hynix dice que para construir su producto 12-Hi HBM3 con la misma altura que su dispositivo 8Hi HBM3, utilizó su tecnología de encapsulación Advanced Mass Reflow Molded Underfill (MR-MUF) que involucra la conexión de un chip de reflujo masivo (MR) para encoger el procesos de capa base y relleno inferior moldeado (MUF) para reducir el espacio de matriz a matriz.
SK Hynix ha entregado muestras de su producto HBM3 de 24 GB a varios clientes ansiosos. El producto se encuentra actualmente en evaluación de desempeño y está programado para entrar en producción en masa en la segunda mitad del año.