Intel anunció el martes uno de los primeros grandes despliegues del mundo de sus aceleradores Gaudi2 para cargas de trabajo de inteligencia artificial (IA). Stability AI utilizará la supercomputadora, construida en colaboración con Dell, para sus aplicaciones de IA generativa.
La nueva supercomputadora de Intel se basa en los últimos procesadores escalables Intel Xeon de la compañía y ejecuta hasta 4.000 aceleradores de hardware Intel Habana Gaudi2 AI. Suponiendo que cada máquina emplea ocho procesadores Habana Gaudi2 en factor de forma OAM (que es típico de las máquinas OAM), la máquina cuenta con hasta 500 nodos. Dado que el Gaudi2 de Intel ofrece un rendimiento formidable comparable al del H100 de Nvidia en aplicaciones selectas, la supercomputadora debería ser bastante poderosa. Probablemente estemos viendo entre 7 y 8 ExaFLOPS FP16 de rendimiento de IA.
Intel y Dell no revelaron si continuarán formando equipo para desarrollar supercomputadoras con inteligencia artificial en el futuro. Mientras tanto, para el diseñador de chips, es importante que uno de los proveedores de servidores más grandes del mundo tenga máquinas PowerEdge con sus CPU escalables Xeon y aceleradores Habana Gaudi2 desarrollados específicamente para cargas de trabajo de IA. Estas máquinas están diseñadas para manejar tanto entrenamiento a gran escala como inferencias de nivel básico.
Además de Dell, Alibaba Cloud dijo que el Xeon de cuarta generación puede alcanzar una velocidad de inferencia 3 veces mayor en su programa DashScope de plataforma de servicio de modelos cuando se usa con aceleradores Advanced Matrix Extensions (Intel AMX) y varias optimizaciones de software.
Los procesadores de Intel alimentan numerosas supercomputadoras e incluso los sistemas DGX H100 de Nvidia para aplicaciones de IA y computación de alto rendimiento (HPC), pero los aceleradores de IA y las GPU de computación de la propia compañía no tienen tanta suerte y hay muy pocas IA basadas en Gaudí/Gaudi2 o Ponte Vecchio. implementaciones hasta la fecha. Con Stability AI trabajando con Gaudi2, será interesante ver qué otras empresas también deciden darle una oportunidad.