NVIDIA ha lanzado su próxima generación de chips de supercomputadora de IA que probablemente desempeñarán un papel importante en futuros avances en aprendizaje profundo y modelos de lenguajes grandes (LLM) como el GPT-4 de OpenAI, anunció la compañía. La tecnología representa un salto significativo con respecto a la última generación y está lista para usarse en centros de datos y supercomputadoras, trabajando en tareas como predicción del tiempo y el clima, descubrimiento de fármacos, computación cuántica y más.
El producto clave es la GPU HGX H200 basada en la arquitectura «Hopper» de NVIDIA, un reemplazo de la popular GPU H100. Es el primer chip de la compañía que utiliza memoria HBM3e, que es más rápida y tiene más capacidad, lo que lo hace más adecuado para modelos de lenguajes grandes. «Con HBM3e, la NVIDIA H200 ofrece 141 GB de memoria a 4,8 terabytes por segundo, casi el doble de capacidad y 2,4 veces más ancho de banda en comparación con su predecesora, la NVIDIA A100», escribió la compañía.
En términos de beneficios para la IA, NVIDIA dice que el HGX H200 duplica la velocidad de inferencia en Llama 2, un LLM de 70 mil millones de parámetros, en comparación con el H100. Estará disponible en configuraciones de 4 y 8 vías que son compatibles tanto con el software como con el hardware de los sistemas H100. Funcionará en todo tipo de centro de datos (local, en la nube, en la nube híbrida y en el borde) y será implementado por Amazon Web Services, Google Cloud, Microsoft Azure y Oracle Cloud Infrastructure, entre otros. Está previsto que llegue en el segundo trimestre de 2024.
El otro producto clave de NVIDIA es el «superchip» GH200 Grace Hopper que combina la GPU HGX H200 y la CPU NVIDIA Grace basada en Arm utilizando el enlace NVLink-C2C de la compañía. Está diseñado para que las supercomputadoras permitan a «los científicos e investigadores abordar los problemas más desafiantes del mundo acelerando aplicaciones complejas de IA y HPC que ejecutan terabytes de datos», escribió NVIDIA.
El GH200 se utilizará en «más de 40 supercomputadoras de inteligencia artificial en centros de investigación globales, fabricantes de sistemas y proveedores de nube», dijo la compañía, incluidos Dell, Eviden, Hewlett Packard Enterprise (HPE), Lenovo, QCT y Supermicro. Entre ellos se destaca la supercomputadora Cray EX2500 de HPE que utilizará cuatro GH200, ampliando hasta decenas de miles de nodos Grace Hopper Superchip.
Quizás la supercomputadora Grace Hopper más grande sea JUPITER, ubicada en las instalaciones de Jülich en Alemania, que se convertirá en el «sistema de inteligencia artificial más poderoso del mundo» cuando se instale en 2024. Utiliza una arquitectura refrigerada por líquido, «con un módulo de refuerzo que comprende cerca hasta 24.000 Superchips NVIDIA GH200 interconectados con la plataforma de red NVIDIA Quantum-2 InfiniBand», según NVIDIA.
NVIDIA dice que JUPITER ayudará a lograr avances científicos en una serie de áreas, incluida la predicción del clima y del tiempo, generando simulaciones climáticas y meteorológicas de alta resolución con visualización interactiva. También se utilizará para el descubrimiento de fármacos, la computación cuántica y la ingeniería industrial. Muchas de estas áreas utilizan soluciones de software personalizadas de NVIDIA que facilitan el desarrollo pero también hacen que los grupos de supercomputación dependan del hardware de NVIDIA.
Las nuevas tecnologías serán clave para NVIDIA, que ahora obtiene la mayor parte de sus ingresos de los segmentos de inteligencia artificial y centros de datos. El último trimestre, la compañía registró un récord de 10.320 millones de dólares en ingresos sólo en esa área (de un ingreso total de 13.510 millones de dólares), un 171 por ciento más que hace un año. Sin duda, espera que la nueva GPU y el superchip ayuden a continuar esa tendencia. La semana pasada, NVIDIA rompió su propio récord de entrenamiento de IA utilizando la antigua tecnología H100, por lo que su nueva tecnología debería ayudarle a ampliar esa ventaja sobre sus rivales en un sector que ya domina.