Intel ha publicado puntos de referencia MLPerf actualizados de sus aceleradores Gaudi2, que han sido la comidilla de la ciudad recientemente. Los datos obtenidos demuestran que los aceleradores de IA de Gaudí se perfilan como una alternativa viable a las GPU H100 de NVIDIA, lo que permitirá a Intel obtener su parte del «bombo publicitario de la IA».
Los aceleradores Intel Gaudi2 reducen la brecha entre los H100 de NVIDIA y derrocan a las obsoletas GPU de IA A100
Antes de profundizar en los puntos de referencia, es importante darse cuenta de que se prevé que la industria de la IA crecerá exponencialmente en los próximos años. Gartner, una empresa de conocimientos estadounidense, ha revelado que la industria de la inteligencia artificial alcanzará una valoración de 53.400 millones de dólares en 2023, lo que supone un incremento del 20,9% con respecto al año anterior. Además, la empresa predice que la industria casi podría alcanzar la marca de los 120.000 millones de dólares para 2027, lo cual es una de las principales razones por las que empresas como Intel y AMD se esfuerzan por hacer una entrada dominante con sus propias soluciones de inteligencia artificial.
Según los datos publicados por Intel, los aceleradores Gaudi2 han experimentado una mejora de rendimiento decente, superando a las GPU con IA A100 de NVIDIA por un buen margen. Intel dice que su acelerador Gaudi2 ofrece un «valor» mucho mejor en comparación con sus homólogos en el mercado, y de hecho tienen razón dados los precios inflados a los que se venden las GPU con IA de NVIDIA.
- Gaudi2 ofrece un rendimiento convincente frente a la H100 de Nvidia, con H100 mostrando una ligera ventaja de 1,09x (servidor) y 1,28x (fuera de línea) en rendimiento en relación con Gaudi2.
- Gaudi2 supera a la Nvidia A100 en 2,4x (servidor) y 2x (sin conexión).
- La presentación de Gaudi2 empleó el FP8 y alcanzó una precisión del 99,9% en este nuevo tipo de datos.
Si bien las estadísticas mencionadas anteriormente son realmente impresionantes, Intel ha omitido algunos detalles para revelar, como el TDP relevante y las estadísticas de temperatura. No importan a largo plazo, especialmente con el estado actual de la industria, ya que los H100 se enfrentan a una inmensa escasez, con la demanda y la cadena de suministro interrumpidas debido a una «afluencia» de grandes pedidos. En vista de esto, los aceleradores Gaudi2 de Intel se están convirtiendo en una alternativa sólida, aunque aún queda trabajo por hacer en este sentido.
Además de los aceleradores Gaudí, Intel también reveló algunos puntos de referencia de su Intel Xeon Scalable y Xeon CPU Max de cuarta generación, que últimamente han prosperado en la industria debido al valor de rendimiento que aportan. Estos son los principales resultados destacados:
- El procesador escalable Intel Xeon de cuarta generación es ideal para crear e implementar cargas de trabajo de IA de uso general con los marcos y bibliotecas de IA más populares. Para la tarea de resumen de 100 palabras GPT-J de un artículo de noticias de aproximadamente 1000 a 1500 palabras, los procesadores Intel Xeon de cuarta generación resumieron dos párrafos por segundo en modo fuera de línea y un párrafo por segundo en modo de servidor en tiempo real.
- Por primera vez, Intel presentó resultados de MLPerf para la serie Intel Xeon CPU Max, que proporciona hasta 64 gigabytes (GB) de memoria de alto ancho de banda. Para GPT-J, fue la única CPU capaz de alcanzar una precisión del 99,9 %, lo cual es fundamental para aplicaciones en las que la mayor precisión es de suma importancia para el rendimiento.
- Intel colaboró con sus clientes fabricantes de equipos originales (OEM) para entregar sus propios envíos, mostrando aún más la escalabilidad del rendimiento de la IA y la amplia disponibilidad de servidores de uso general con procesadores Intel Xeon que pueden cumplir con los acuerdos de nivel de servicio al cliente (SLA).
David Zinsner, en una reunión en la Conferencia Global de Tecnología de Citi, reveló que Intel ha visto la oportunidad perfecta para establecerse como un actor en la industria de la IA, y dijo que ha recibido un gran interés en sus aceleradores Gaudí como una alternativa a las GPU de IA de NVIDIA. , que actualmente se encuentran en una situación difícil en lo que respecta a las etapas de producción y entrega.
Los desafíos para conseguir GPU: creo que vemos que más clientes consideran a Gaudí como una alternativa. Y además, los precios son mejores y más atractivos.
Zinsner ha expresado la atención de la empresa por adoptar un enfoque más «equilibrado» en la industria de la IA, ofreciendo productos competitivos. El funcionario se dio cuenta de que la línea Sapphire Rapids de la compañía ha recibido más atención, mientras que el departamento de aceleradores de IA quedó fuera. Zinsner afirma que Intel se ha estado centrando en su segmento de GPU desde hace algún tiempo, con la mayoría de las finanzas de la compañía asignadas a su desarrollo, lo que catalizó la «caída» de los ingresos del centro de datos.
Es necesario que las GPU hagan eso [AI] trabajar. Creo que somos beneficiarios de eso debido a la CPU que tenemos.
Esto resta un poco de impulso a las ventas de nuestro negocio de centros de datos y es parte de la razón por la que creemos que el tercer trimestre y el cuarto trimestre serán más moderados que en el pasado.
Actualmente, Intel se está centrando en la industria de la inteligencia artificial, ya que ha visto las maravillas que ha hecho con empresas como NVIDIA y SK Hynix. El acercamiento del Team Blue con los aceleradores de IA de Gaudí en el futuro insinúa un repunte positivo, y uno de los indicadores que hemos visto son los planes de la compañía para integrar chips Falcon Shores de próxima generación con la línea Gaudí, ampliando su potencial a un nuevo nivel. Sin embargo, es necesario trabajar aquí y la única forma en que Intel podría desbancar a la competencia es renovando sus productos de IA a un nivel completamente nuevo.
Aunque ya es tarde para la fiesta, si la empresa pudiera hacer una entrada decisiva, las cosas podrían cambiar de dirección. Con el esperado lanzamiento de aceleradores Gaudí reducidos en China, junto con los rápidos desarrollos que la compañía está haciendo en sus aceleradores de IA, uno debería esperar mucho de Intel en los próximos días.