GPU NVIDIA Hopper H200 potenciadas con la memoria HBM3e más rápida del mundo y superchips Grace Hopper potencian la supercomputadora Júpiter

NVIDIA ha anunciado su nueva GPU H200 Hopper que ahora viene equipada con la memoria HBM3e más rápida del mundo de Micron. Además de las nuevas plataformas de IA, NVIDIA también anunció una importante victoria en supercomputadoras con sus superchips Grace Hopper que ahora impulsan la supercomputadora Exaflop Jupiter.

NVIDIA continúa generando impulso en la IA con GPU Hopper mejoradas, superchips Grace Hopper y victorias en supercomputadoras

Las GPU H100 de NVIDIA son los chips de IA más demandados en la industria hasta el momento, pero el equipo ecológico quiere ofrecer aún más rendimiento a sus clientes. Ingrese HGX H200, la última plataforma informática y HPC para IA que funciona con GPU H200 Tensor Core. Estas GPU cuentan con las últimas optimizaciones de Hopper tanto en hardware como en software y, al mismo tiempo, ofrecen la solución de memoria más rápida del mundo hasta la fecha.

Las GPU NVIDIA H200 están equipadas con la solución HBM3e de Micron con capacidades de memoria de hasta 141 GB y hasta 4,8 TB/s de ancho de banda, que es 2,4 veces más ancho de banda y el doble de capacidad en comparación con la NVIDIA A100. Esta nueva solución de memoria permite a NVIDIA casi duplicar el rendimiento de inferencia de IA en comparación con sus GPU H100 en aplicaciones como Llama 2 (LLM de 70 mil millones de parámetros). Los avances recientes en la suite TensorRT-LLM también han dado como resultado enormes mejoras de rendimiento en una gran cantidad de aplicaciones de IA.

En términos de soluciones, las GPU NVIDIA H200 estarán disponibles en una amplia gama de servidores HGX H200 con configuraciones de GPU de 4 y 8 vías. Una configuración de 8 vías de GPU H200 en un sistema HGX proporcionará hasta 32 PetaFLOP de rendimiento informático FP8 y 1,1 TB de capacidad de memoria.

GPU NVIDIA H200: supercargada con memoria HBM3e, disponible en el segundo trimestre de 2024

Las GPU también serán compatibles con los sistemas HGX H100 existentes, lo que facilitará a los clientes la actualización de sus plataformas. Los socios de NVIDIA como ASUS, ASRock Rack, Dell, Eviden, GIGABYTE, Hewlett Packard Enterprise, Ingrasys, Lenovo, QCT, Wiwynn, Supermicro y Wistron ofrecerán soluciones actualizadas cuando las GPU H200 estén disponibles en el segundo trimestre de 2024.

Los superchips NVIDIA Grace Hopper alimentan la supercomputadora Júpiter de 1 exaflop

Además del anuncio de la GPU H200, NVIDIA también ha anunciado una importante supercomputadora impulsada por sus Grace Hopper Superchips (GH200). La supercomputadora se conoce como Júpiter y estará ubicada en las instalaciones de Forschungszentrum Jülich en Alemania como parte de la Empresa Conjunta EuroHPC y será contratada por Eviden y ParTec. La supercomputadora se utilizará para ciencia de materiales, investigación climática, descubrimiento de fármacos y más. Esta es también la segunda supercomputadora que NVIDIA anunció en noviembre, siendo la anterior la Isambard-AI, que ofrece hasta 21 exaflops de rendimiento de IA.

En términos de configuración, la supercomputadora Júpiter se basa en el BullSequana XH3000 de Eviden, que utiliza una arquitectura totalmente refrigerada por líquido. Cuenta con un total de 24.000 Superchips NVIDIA GH200 Grace Hopper que están interconectados mediante Quantum-2 Infiniband de la compañía. Teniendo en cuenta que cada CPU Grace incluye 288 núcleos Neoverse, estamos viendo casi 7 millones de núcleos ARM solo en el lado de la CPU para Júpiter (6,912,000 para ser exactos).

Las métricas de rendimiento incluyen 90 exaflops de entrenamiento de IA y 1 exaflop de computación de alto rendimiento. Se espera que la supercomputadora se instale en 2024. En general, estas son algunas actualizaciones importantes de NVIDIA mientras continúa liderando el mundo de la inteligencia artificial con sus poderosas tecnologías de hardware y software.

GPU NVIDIA HPC/IA