Las GPU H100 de NVIDIA están en la cima del espectro cuando se trata de IA y la compañía una vez más ha establecido nuevos récords en los puntos de referencia MLPerf.
El liderazgo en IA de NVIDIA continúa mientras las GPU Hopper H100 logran un rendimiento de IA generativa MLPerf sin precedentes
En los últimos benchmarks MLPerf publicados por NVIDIA, la compañía destaca que han establecido varios récords nuevos, donde la supercomputadora Eos ha completado un benchmark de entrenamiento basado en un modelo GPT-3 con 175 mil millones de parámetros entrenados en mil millones de tokens en solo 3,9 minutos. Esta es una gran ganancia con respecto al récord anterior, donde la supercomputadora logró completar el mismo punto de referencia en 10,9 minutos, lo que supone una enorme mejora de 3 veces.
Ahora bien, las cifras logradas por la supercomputadora son realmente fenomenales, pero ¿cuál es la razón principal detrás de este logro?
En palabras simples, la arquitectura de GPU Hopper de vanguardia de NVIDIA se combina con recursos de software bien refinados. La supercomputadora Eos emplea actualmente 10,752 GPU NVIDIA H100 Tensor Core, que reemplazaron a las bastante antiguas A100, razón por la cual se produce el enorme aumento de rendimiento en primer lugar. Además, a través de recursos de software bien desarrollados como NeMo de NVIDIA, que ayuda en la formación de LLM, Team Green logró extraer una potencia excepcional de su plataforma.
Además, otro logro récord de NVIDIA mencionado en la publicación son los avances realizados en el «escalado del sistema», donde, con la ayuda de varias optimizaciones de software, la empresa logró mostrar una tasa de eficiencia del 93%. Las 10.752 GPU H100 superaron con creces el escalado en el entrenamiento de IA en junio, cuando NVIDIA utilizó 3.584 GPU Hopper. La importancia de un escalado eficiente es inmensa en la industria, ya que lograr una alta potencia computacional requiere el uso de más recursos de hardware, y sin el respaldo de software adecuado, la eficiencia del sistema se ve comprometida en mayor medida.
El papel de NVIDIA en la industria de la IA tiene una gran importancia, ya que la empresa tiene el poder de ofrecer las GPU de IA más capaces conocidas por la humanidad, al menos por ahora. Dejando a un lado el aspecto financiero, Team Green ha estado trabajando rápidamente en sus recursos de software, además de colaborar con los clientes para garantizar que su cartera de productos ofrezca un rendimiento óptimo, manteniendo la eficiencia y la estabilidad.
Fuente de noticias: Blog de NVIDIA