{"id":1068389,"date":"2024-03-28T13:08:20","date_gmt":"2024-03-28T13:08:20","guid":{"rendered":"https:\/\/magazineoffice.com\/los-aceleradores-intel-gaudi-2-muestran-un-rendimiento-competitivo-por-dolar-frente-a-nvidia-h100-en-los-puntos-de-referencia-mlperf-4-0-genai\/"},"modified":"2024-03-28T13:08:23","modified_gmt":"2024-03-28T13:08:23","slug":"los-aceleradores-intel-gaudi-2-muestran-un-rendimiento-competitivo-por-dolar-frente-a-nvidia-h100-en-los-puntos-de-referencia-mlperf-4-0-genai","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/los-aceleradores-intel-gaudi-2-muestran-un-rendimiento-competitivo-por-dolar-frente-a-nvidia-h100-en-los-puntos-de-referencia-mlperf-4-0-genai\/","title":{"rendered":"Los aceleradores Intel Gaudi 2 muestran un rendimiento competitivo por d\u00f3lar frente a NVIDIA H100 en los puntos de referencia MLPerf 4.0 GenAI"},"content":{"rendered":"


\n<\/p>\n

\n

Intel acaba de publicar sus \u00faltimas cifras de rendimiento de MLPerf v4.0 que cubren los aceleradores Gaudi 2 y las CPU Xeon \u00abEmerald Rapids\u00bb de quinta generaci\u00f3n; el primero muestra s\u00f3lidos valores de rendimiento por d\u00f3lar en comparaci\u00f3n con la GPU H100 de NVIDIA.<\/p>\n

El acelerador Intel Gaudi 2 AI es la \u00fanica \u00abalternativa comparada\u00bb a las GPU H100 de NVIDIA para GenAI, fuerte rendimiento\/$ en resultados de MLPerf v4.0<\/h2>\n

Intel ha estado ajustando el rendimiento de su l\u00ednea de aceleradores Gaud\u00ed en cargas de trabajo de IA utilizando su marco OneAPI desde hace alg\u00fan tiempo. El resultado de este trabajo de software continuo se mostr\u00f3 en las \u00faltimas cifras de rendimiento de MLPerf v4.0 que muestran las capacidades de GenAI en cargas de trabajo como Llama-70B y Stable Diffusion XL, donde las soluciones de Intel ofrecen un rendimiento competitivo frente a los chips rivales. M\u00e1s recientemente, la compa\u00f1\u00eda mostr\u00f3 c\u00f3mo los aceleradores Gaudi 2 eran m\u00e1s r\u00e1pidos en comparaci\u00f3n con las soluciones de NVIDIA en las \u00faltimas cargas de trabajo GenAI, como Stable Diffusion y Llama 2 LLM. M\u00e1s sobre eso aqu\u00ed.<\/p>\n

<\/figure>\n

Para realizar comparaciones, Intel utiliz\u00f3 una configuraci\u00f3n de acelerador Gaudi 2 x8 frente a GPU NVIDIA H100 x8 para realizar evaluaciones comparativas de rendimiento de FP8 e INT8. En rendimiento relativo, la NVIDIA H100 sin duda est\u00e1 muy por delante de los aceleradores Intel Gaudi 2, ofreciendo mejoras de hasta 3,35 veces en servidor y hasta 2,76 veces en generaci\u00f3n fuera de l\u00ednea. Pero donde el juego cambia completamente a favor de Intel es en el rendimiento\/$ donde los aceleradores Gaudi 2 se convierten en un producto con una posici\u00f3n muy competitiva y lo que Intel denomina Gaudi 2 como la \u00fanica \u00abalternativa comparada\u00bb al H100 de NVIDIA para cargas de trabajo GenAI.<\/p>\n

\"Los<\/figure>\n

Entonces, en t\u00e9rminos de rendimiento por d\u00f3lar, el acelerador Intel Gaudi 2 AI ofrece un valor 33 % mejor que la soluci\u00f3n NVIDIA H100; NVIDIA H100 solo supera a Gaudi 2 en Llama-70B (servidor). Intel tambi\u00e9n se ha asociado recientemente con Qualcomm y Google para abordar el dominio CUDA de NVIDIA en IA a trav\u00e9s de oneAPI, lo que puede conducir a mayores mejoras en el futuro. Los aceleradores de IA Gaudi 3 y Falcon Shores de pr\u00f3xima generaci\u00f3n tendr\u00e1n un s\u00f3lido marco de software que los respalde en el momento de su lanzamiento.<\/p>\n

\"\"<\/figure>\n

Intel tambi\u00e9n comparte los resultados de MLPerf v4.0 para su familia escalable Xeon de quinta generaci\u00f3n con nombre en c\u00f3digo Emerald Rapids. Al comparar los chips con la familia \u00abSapphire Rapids\u00bb de cuarta generaci\u00f3n, puede ver ganancias de hasta 1,9 veces y una ganancia promedio del 42 % con respecto a la generaci\u00f3n anterior en cargas de trabajo como 3dUnet, BERT, RNN-T, ResNet50, RetinaNet, DLRMv2, GPT-J. Adem\u00e1s, los socios OEM de Intel tambi\u00e9n han estado enviando sus resultados para CPU Xeon de quinta generaci\u00f3n en una variedad de cargas de trabajo mixtas. Estos socios incluyen Dell Technologies, Quanta Computer, Supermicro, Wiwynn y CISCO.<\/p>\n

Los aspectos m\u00e1s destacados de estos puntos de referencia son:<\/p>\n

Aceleradores Intel Gaud\u00ed 2<\/strong><\/p>\n