NVIDIA ha anunciado sus últimas plataformas DGX y Superchip que incluyen sus nuevas GPU Blackwell B200 junto con la CPU Grace.
Se anuncian las plataformas de superchip de próxima generación NVIDIA GB200: B100+Grace para GB200 en 2024
El Superchip de NVIDIA está diseñado como la plataforma por excelencia para cargas de trabajo de IA y HPC. Como hemos visto antes, la plataforma viene en dos configuraciones, una CPU solo y una variante CPU+GPU. Estos productos Superchip se anunciaron por primera vez con las GPU Hopper H100 junto con la CPU Grace de primera generación basada en Arm. Hoy, NVIDIA presenta el próximo capítulo de Superchip.
La compañía anunció dos nuevas soluciones, la GB200, que es una combinación de la CPU Grace con la GPU Blackwell B100. Esta solución tiene como objetivo lanzarse en 2024 y contará con la misma capacidad de memoria HBM3e de 192 GB con hasta 2700 W. Así que profundicemos en las especificaciones. También obtiene la compatibilidad con el protocolo más reciente con PCIe 6.0 (2x 256 GB/s). Las GPU Blackwell B200 serán compatibles tanto con las plataformas Hopper existentes como con las últimas soluciones de los fabricantes de centros de datos.
Cada Superchip GB200 Grace Blackwell estará equipado con dos GPU B200 AI y una CPU Grace singular con 72 de los mismos núcleos ARM Neoverse V2. La plataforma ofrecerá 40 PetaFlops de rendimiento informático (INT8) y ofrecerá un enorme conjunto de memoria de 864 GB con el HBM solo a 16 TB/s de ancho de banda de memoria. Los chips se interconectarán mediante un rápido ancho de banda NVLINK de 3,6 TB/s.
Dos de estas plataformas GB200 Grace Blackwell Superchip se incorporarán dentro de un nodo Blackwell Compute para hasta 80 PetaFLOP de rendimiento de IA, 1,7 TB de memoria HBM3e, 32 TB/s de ancho de banda de memoria y todo en un paquete MGX refrigerado por líquido.
Estos chips se empaquetarán en las nuevas plataformas informáticas GB200 NVL72, cada una equipada con 18 bandejas informáticas en un bastidor para hasta 36 CPU Grace y 72 GPU Blackwell. Cada bastidor contará con ConnectX-800G Infiniband SuperNIC y una DPU Bluefield-3 (80 GB/s de ancho de banda de memoria) para computación en red. La compañía también alberga sus últimos conmutadores NVLINK que cuentan con ocho puertos a 1,8 TB/s y hasta 14,4 TB/s de ancho de banda agregado.
Tenemos que hablar un poco más sobre el conmutador NVLink en sí, ya que es un gigante de transistores de 50 mil millones que también se fabrica en el mismo nodo TSMC 4NP, alberga SerDes duales de 72 puertos de 200 GB/s, 4 NVLINK a 1,8 TB/s. , 7,2 TB/s de ancho de banda Full-Duplex y 3,6 TFLOP de capacidades informáticas en red SHARP.
En términos de rendimiento, la plataforma GB200 Grace Blackwell Superchip ofrecerá un aumento de 30 veces en el rendimiento de la IA con respecto a la plataforma H200 Grace Hopper. NVIDIA Blackwell GB200 estará disponible en DGX Cloud a finales de este año mientras que los principales fabricantes de equipos originales como Dell, Cisco, HPE, Lenovo, Supermicro, Aivres, ASRock Rack, ASUS, Eviden, Foxconn, Gigabyte, Inventec, Pegatron, QCT, Wistron, Wiwynn. & ZT Systems también ofrecerá sus respectivas soluciones en el futuro.