NVIDIA ha anunciado sus nuevos sistemas de GPU Hopper H100 AI que están sobrealimentados con las CPU de 4.ª generación Xeon «Sapphire Rapids» de Intel.
NVIDIA ofrece una alta eficiencia 25 veces mayor con los sistemas de IA Hopper H100 con tecnología de CPU Intel Xeon «Sapphire Rapids» de cuarta generación
Presione soltar: La IA está en el centro de las innovaciones más transformadoras de la humanidad, desde el desarrollo de vacunas contra el COVID a velocidades sin precedentes y el diagnóstico del cáncer hasta la potencia de vehículos autónomos y la comprensión del cambio climático.
Prácticamente todas las industrias se beneficiarán de la adopción de IA, pero la tecnología se ha vuelto más intensiva en recursos a medida que las redes neuronales han aumentado en complejidad. Para evitar imponer demandas insostenibles a la generación de electricidad para hacer funcionar esta infraestructura informática, la tecnología subyacente debe ser lo más eficiente posible.
La computación acelerada impulsada por las GPU NVIDIA y la plataforma de inteligencia artificial ofrece la eficiencia que permite que los centros de datos impulsen de manera sostenible la próxima generación de avances.
Y ahora, coincidiendo con el lanzamiento de los procesadores escalables Intel Xeon de 4.ª generación, NVIDIA y sus socios han lanzado una nueva generación de sistemas informáticos acelerados creados para una IA eficiente en el consumo de energía. Cuando se combinan con las GPU H100 Tensor Core, estos sistemas pueden ofrecer un rendimiento mucho mayor, una mayor escala y una mayor eficiencia que la generación anterior, lo que proporciona más cómputo y resolución de problemas por vatio.
Las nuevas CPU Intel se utilizarán en los sistemas DGX H100, así como en más de 60 servidores con GPU H100 de los socios de NVIDIA en todo el mundo.
Supercarga de velocidad, eficiencia y ahorros para la IA empresarial
Los próximos sistemas impulsados por NVIDIA e Intel ayudarán a las empresas a ejecutar cargas de trabajo con un promedio de 25 veces más eficiencia que los servidores de centros de datos tradicionales solo con CPU. Este increíble rendimiento por vatio significa que se necesita menos energía para realizar los trabajos, lo que ayuda a garantizar que la energía disponible para los centros de datos se utilice de la manera más eficiente posible para potenciar el trabajo más importante.
En comparación con los sistemas acelerados de la generación anterior, esta nueva generación de servidores acelerados por NVIDIA acelera la capacitación y la inferencia para aumentar la eficiencia energética en 3,5 veces, lo que se traduce en ahorros de costos reales, con centros de datos de IA que ofrecen un costo total de propiedad más de 3 veces menor.
Las nuevas CPU Intel Xeon de cuarta generación mueven más datos para acelerar NVIDIA AI
Entre las características de la nueva CPU Intel Xeon de 4.ª generación se encuentra la compatibilidad con PCIe Gen 5, que puede duplicar las tasas de transferencia de datos de la CPU a las GPU NVIDIA y las redes. Los carriles PCIe aumentados permiten una mayor densidad de GPU y redes de alta velocidad dentro de cada servidor.
Un ancho de banda de memoria más rápido también mejora el rendimiento de las cargas de trabajo con uso intensivo de datos, como la IA, mientras que las velocidades de red, hasta 400 gigabits por segundo (Gbps) por conexión, admiten transferencias de datos más rápidas entre servidores y almacenamiento.
Los sistemas y servidores DGX H100 de NVIDIA se asocian con las GPU H100 PCIe vienen con una licencia para NVIDIA AI Enterprise, un conjunto de software de desarrollo e implementación de IA completo, seguro y nativo de la nube, que proporciona una plataforma completa para la excelencia en la empresa eficiente AI.
Los sistemas NVIDIA DGX H100 supercargan la eficiencia para la IA de gran tamaño
Como la cuarta generación de la principal infraestructura de IA especialmente diseñada del mundo, los sistemas DGX H100 proporcionan una plataforma totalmente optimizada impulsada por el sistema operativo del centro de datos acelerado, el software NVIDIA Base Command.
Cada sistema DGX H100 cuenta con ocho GPU NVIDIA H100, 10 adaptadores de red NVIDIA ConnectX-7 y dos procesadores escalables Intel Xeon de 4.ª generación para ofrecer el rendimiento necesario para crear grandes modelos de IA generativa, modelos de lenguaje grande, sistemas de recomendación y más.
En combinación con las redes NVIDIA, esta arquitectura potencia la computación eficiente a escala al ofrecer hasta 9 veces más rendimiento que la generación anterior y entre 20 y 40 veces más rendimiento que los servidores X86 de doble socket no acelerados para entrenamiento de IA y cargas de trabajo de HPC. Si un modelo de idioma requería anteriormente 40 días para entrenarse en un clúster de servidores solo X86, NVIDIA DGX H100 con CPU Intel Xeon y redes con tecnología ConnectX-7 podría completar el mismo trabajo en tan solo 1 o 2 días.
Los sistemas NVIDIA DGX H100 son los componentes básicos de un NVIDIA DGX SuperPOD llave en mano listo para la empresa, que ofrece hasta un exaflop de rendimiento de IA, proporcionando un salto en la eficiencia para la implementación de IA empresarial a gran escala.
Los socios de NVIDIA aumentan la eficiencia del centro de datos
Para las cargas de trabajo del centro de datos de IA, las GPU NVIDIA H100 permiten a las empresas crear e implementar aplicaciones de manera más eficiente.
Al brindar una nueva generación de rendimiento y eficiencia energética a las empresas de todo el mundo, pronto llegará una amplia cartera de sistemas con GPU H100 y CPU escalables Intel Xeon de cuarta generación de los socios de NVIDIA, incluidos ASUS, Atos, Cisco, Dell Technologies, Fujitsu, GIGABYTE, Hewlett. Packard Enterprise, Lenovo, QCT y Supermicro.
Como referente de las ganancias de eficiencia que se avecinan, Lenovo ThinkSystem del Instituto Flatiron con GPU NVIDIA H100 encabeza la lista Green500 más reciente, y las tecnologías NVIDIA impulsan 23 de los 30 sistemas principales de la lista. El sistema Flatiron utiliza CPU Intel de generaciones anteriores, por lo que se espera aún más eficiencia de los sistemas que ahora salen al mercado.
Además, la conexión de servidores con la red NVIDIA ConnectX-7 y los procesadores escalables Intel 4th Gen Xeon aumentará la eficiencia y reducirá la infraestructura y el consumo de energía.
Los adaptadores NVIDIA ConnectX-7 admiten PCIe Gen 5 y 400 Gbps por conexión mediante Ethernet o InfiniBand, lo que duplica el rendimiento de la red entre servidores y almacenamiento. Los adaptadores admiten descargas avanzadas de red, almacenamiento y seguridad. ConnectX-7 reduce la cantidad de cables y puertos de conmutación necesarios, lo que ahorra un 17 % o más en la electricidad necesaria para la conexión en red de grandes clústeres de IA y HPC acelerados por GPU y contribuye a una mejor eficiencia energética de estos nuevos servidores.
El software NVIDIA AI Enterprise ofrece una solución de IA de pila completa
Estos sistemas de próxima generación también brindan un salto adelante en la eficiencia operativa, ya que están optimizados para el paquete de software NVIDIA AI Enterprise.
NVIDIA AI Enterprise, que se ejecuta en NVIDIA H100, acelera la canalización de la ciencia de datos y agiliza el desarrollo y la implementación de modelos predictivos de IA para automatizar procesos esenciales y obtener información rápida a partir de los datos.
Con una amplia biblioteca de software de pila completa, que incluye flujos de trabajo de IA de aplicaciones de referencia, marcos, modelos preentrenados y optimización de infraestructura, el software proporciona una base ideal para escalar el éxito de la IA empresarial.
Para probar NVIDIA H100 con marcos y flujos de trabajo de IA compatibles con NVIDIA AI Enterprise, regístrese en NVIDIA LaunchPad sin cargo. Vea al fundador y director ejecutivo de NVIDIA, Jensen Huang, hablar en el evento de lanzamiento del procesador escalable Intel Xeon de cuarta generación.