Nvidia ha anunciado su nuevo superchip Grace Hopper, y su enorme memoria es suficiente para hacer llorar a toda la serie RTX 40. Más allá de eso, está empaquetando ocho de ellos en lo que Jensen Huang llama «una GPU gigante» con el DGX GH200, un súper servidor absolutamente mega para acelerar la IA.
El superchip viene con 576 GB de memoria GPU, incluidos 96 GB de memoria HBM3 y 480 GB de LPDDR5. Teniendo en cuenta incluso los 24 GB de GDDR6X en el RTX 4090, se compara con lo que estamos acostumbrados en GeForce land.
Huang dice que el superchip tiene «prácticamente toda la computadora», incluidas 72 CPU ARM, y Nvidia está agarrando ocho de ellos para meterlos dentro del DGX GH200, un buen par de racks de servidores de IA.
La DGX GH200 es grande, tanto en sentido literal como figurado. Estamos viendo 150 millas de cables de fibra óptica y 2000 ventiladores que pueden reciclar 70,000 pies cúbicos por minuto de aire. «Probablemente pueda reciclar el aire de toda esta habitación en un par de minutos», dice Huang.
Y con 40 000 libras de peso, la DGX GH200 es «cuatro elefantes, una GPU». En otras palabras, no vas a incluir uno en tu estudio. Pero supongo que eso es parte de la belleza de la aceleración basada en la nube: no es necesario.
No es que podamos permitirnos uno de todos modos, considerando el precio que probablemente costará este monstruo. Nvidia no confirmó el precio que podemos esperar, pero apuesto a que será deslumbrante.
Entre los ocho chips Grace Hopper del DGX GH200 se encuentran 900 GB/s de enlaces de chip a chip desde los conmutadores NVLink. Una vez combinado, eso lo coloca en la región de un exaflop en poder de cómputo.
Y, por supuesto, entre algunas comedias esporádicas en mandarín, Jensen complace a los jugadores de la audiencia con «Me pregunto si esto podría jugar con Crysis. Solo los jugadores entenderán esa broma».
Por supuesto, Nvidia no se está alejando de los juegos, a pesar de nuestras reflexiones sobre una reciente llamada de ganancias, pero está claro que el enfoque para el futuro está en la IA. Teniendo en cuenta que Nvidia acaba de anunciar ACE for Games, un conjunto de herramientas de IA que permite a los desarrolladores crear NPC que pueden responderle en tiempo real. Nvidia ya confirmó que el sistema se ejecutará en Nvidia DGX Cloud, pero también podría ejecutarse en una GPU normal.