{"id":876657,"date":"2023-11-09T02:16:29","date_gmt":"2023-11-09T02:16:29","guid":{"rendered":"https:\/\/magazineoffice.com\/intel-duplico-el-rendimiento-fp8-gpt3-para-su-chip-gaudi-2-ai-en-las-ultimas-pruebas-comparativas-de-mlperf\/"},"modified":"2023-11-09T02:16:33","modified_gmt":"2023-11-09T02:16:33","slug":"intel-duplico-el-rendimiento-fp8-gpt3-para-su-chip-gaudi-2-ai-en-las-ultimas-pruebas-comparativas-de-mlperf","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/intel-duplico-el-rendimiento-fp8-gpt3-para-su-chip-gaudi-2-ai-en-las-ultimas-pruebas-comparativas-de-mlperf\/","title":{"rendered":"Intel duplic\u00f3 el rendimiento FP8 GPT3 para su chip Gaudi 2 AI en las \u00faltimas pruebas comparativas de MLPerf"},"content":{"rendered":"


\n<\/p>\n

\n

Intel lanz\u00f3 la actualizaci\u00f3n de noviembre de 2023 de sus resultados de MLPerf Training 3.1 y logr\u00f3 un aumento de rendimiento del 103 % en comparaci\u00f3n con su proyecci\u00f3n del 90 % en junio. Actualmente, solo hay tres aceleradores que est\u00e1n enviando resultados de GPT-3 en MLPerf: Intel, NVIDIA y Google, lo que hace que Gaudi 2 de Intel sea actualmente la \u00fanica alternativa viable a las GPU de NVIDIA (\u00bfes ese el t\u00e9rmino correcto?) para cargas de trabajo de IA de MLPerf. .<\/p>\n

Intel muestra precio\/rendimiento competitivo para los chips Hopper de vanguardia de NVIDIA en el \u00faltimo MLPerf 3.1<\/h2>\n

Intel tambi\u00e9n se apresur\u00f3 a se\u00f1alar que Xeon es la \u00fanica CPU que tambi\u00e9n env\u00eda resultados de entrenamiento en MLPerf Benchmark. Sin m\u00e1s pre\u00e1mbulos aqu\u00ed est\u00e1n las diapositivas presentadas:<\/p>\n

\n
<\/div>\n
<\/div>\n<\/div>\n
\"\"<\/figure>\n

Como puede ver, el equipo Gaud\u00ed de Intel proyect\u00f3 inicialmente una ganancia de rendimiento del 90 % en el FP8, pero pudo lograr una ganancia del 103 % en el punto de referencia de la industria GPT-3, reduciendo su tiempo para entrenar en minutos (en 384 aceleradores) de 311,94 minutos o 5,2 horas hasta poco m\u00e1s de 2 horas o 153,58 minutos. Intel tambi\u00e9n present\u00f3 varias diapositivas para ayudar en la toma de decisiones basadas en el TCO (costo total de propiedad), mostrando que el chip Gaudi 2 ofrece un rendimiento similar al NVIDIA H100 y al mismo tiempo tiene un menor costo de servidor, lo que lo hace competitivo en precio\/rendimiento.<\/p>\n

\"\"<\/figure>\n

En GPTJ-99, Gaudi 2 brilla a\u00fan m\u00e1s: queda ligeramente por detr\u00e1s de los nuevos chips Hopper de NVIDIA. Si bien la discusi\u00f3n en junio fue acerca de que Gaudi 2 era simplemente una alternativa viable a los chips de NVIDIA y estaba significativamente por detr\u00e1s del H100 (solo intercambiando golpes con el modelo A100 anterior), ahora el chip Gaudi 2 est\u00e1 ligeramente por detr\u00e1s de las configuraciones H100 y GH200-96G. El H100 es s\u00f3lo un 9 % m\u00e1s r\u00e1pido, mientras que el GH200-96G es s\u00f3lo un 12 % m\u00e1s r\u00e1pido que Gaudi 2 en las pruebas comparativas de rendimiento del servidor. Esta ventaja se extiende al 28% en los puntos de referencia fuera de l\u00ednea. Gaud\u00ed 2 super\u00f3 al A100 casi el doble en ambos casos.<\/p>\n

\"\"<\/figure>\n

Por \u00faltimo, Intel tambi\u00e9n se\u00f1al\u00f3 que Xeon es la \u00fanica CPU que actualmente presenta puntos de referencia MLPerf y enfatiz\u00f3 su compromiso con las cargas de trabajo de IA.<\/p>\n

\n<\/figure>\n

Acerca de los resultados de Intel Gaudi2:<\/strong><\/p>\n

Gaudi2 sigue siendo la \u00fanica alternativa viable al H100 de NVIDIA para las necesidades inform\u00e1ticas de IA, ofreciendo una relaci\u00f3n precio-rendimiento significativa. Los resultados de MLPerf para Gaudi2 mostraron el creciente rendimiento del entrenamiento del acelerador de IA:<\/p>\n