A menudo es fácil olvidar que GPU significa Unidad de procesamiento de gráficos, pero en las ajetreadas sesiones de GTC 2023 (GPU Technology Conference) de ayer, Nvidia anunció no menos de cuatro nuevos procesadores (palabra de la propia compañía) mientras busca consolidar su posición como el Campeón de hardware de IA sin apenas competencia a la vista.
El extraordinario éxito de ChatGPT ha ayudado a dar forma a la narrativa, impulsando la demanda de plataformas informáticas de inferencia más grandes, mejores, más grandes y más potentes.
“La cantidad de aplicaciones para la IA generativa es infinita, limitada solo por la imaginación humana. Equipar a los desarrolladores con la plataforma informática de inferencia más poderosa y flexible acelerará la creación de nuevos servicios que mejorarán nuestras vidas de maneras que aún no imaginamos”. dijo Jensen Huang, fundador y CEO de NVIDIA.
Debido a que Nvidia tiene un conjunto mucho más pequeño de clientes a los que atender, puede ofrecer productos ajustados para tareas específicas. El nuevo L4 para video AI es 120 veces más potente en rendimiento de video que las CPU, mientras que el L40 para generación de imágenes es 7 veces mejor en inferencia para difusión estable que la generación anterior.
El H100 NVL se ha diseñado para abordar implementaciones masivas de LLM (Modelo de lenguaje grande) con la friolera de 94 GB de memoria, lo que lo ayuda a ofrecer un rendimiento de inferencia 12 veces más rápido en el ya obsoleto ChatGPT3 (y en comparación con la generación A100 anterior). El último en la lista es el superchip Nvidia Grace Hopper para modelos de recomendación que acerca la CPU y la GPU basadas en Arm de Nvidia y se espera para finales de este año.
¿Qué pasa con Intel y AMD?
Durante 40 años, la CPU (Unidad central de procesamiento) ha sido el núcleo de la informática, pero estamos presenciando, en vivo, un golpe de liderazgo. Nvidia por sí sola inclinó la balanza de poder; Intel ha sido el mayor perdedor con el precio de sus acciones reducido a la mitad desde el año pasado, mientras que AMD continúa jugando un papel secundario en la tierra de la GPU (menos cuando se trata de la CPU).
La CPU siempre estuvo en peligro de ser suplantada por su carácter genérico; es un gato de todos los oficios después de todo. La GPU (y otras unidades de procesamiento más exóticas) aprovecharon su capacidad para acercar el hardware y el software (a través de API CUDA de Nvidia, por ejemplo) para sobresalir en cargas de trabajo especializadas.
El impacto duradero de Nvidia se ilustra con un nuevo servicio llamado cuLito (abreviatura de litografía computacional) donde colaboró con ASML, TSMC y Synopsys para ayudar a diseñar y fabricar la próxima generación de chips, independientemente de si se trata de CPU, GPU, NAND o cualquier otro producto basado en silicio. Aquí tenemos GPU acelerando el desarrollo de la próxima generación de GPU con Nvidia prediciendo una mejora de rendimiento de 40 veces en comparación con la CPU.
Con una capitalización de mercado de casi $ 640 mil millones, Nvidia vale más que Qualcomm ($ 137 mil millones), Intel ($ 117 mil millones), AMD ($ 153 mil millones) y Arm (est. $ 50 mil millones) juntas. Dado que Nvidia aparentemente ha construido una ventaja insuperable en hardware de IA, todas las probabilidades son bajas en cuanto a quién será el segundo mejor.