{"id":163403,"date":"2022-09-13T13:36:17","date_gmt":"2022-09-13T13:36:17","guid":{"rendered":"https:\/\/magazineoffice.com\/se-publican-los-resultados-de-referencia-de-nvidia-h100-hopper\/"},"modified":"2022-09-13T13:36:19","modified_gmt":"2022-09-13T13:36:19","slug":"se-publican-los-resultados-de-referencia-de-nvidia-h100-hopper","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/se-publican-los-resultados-de-referencia-de-nvidia-h100-hopper\/","title":{"rendered":"Se publican los resultados de referencia de Nvidia H100 &#8216;Hopper&#8217;"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>MLCommons, un grupo de la industria que se especializa en la evaluaci\u00f3n del rendimiento de la inteligencia artificial y el hardware de aprendizaje autom\u00e1tico, agreg\u00f3 los resultados de los \u00faltimos aceleradores artificiales de IA y ML a su base de datos y, b\u00e1sicamente, public\u00f3 los primeros n\u00fameros de rendimiento para las GPU de c\u00f3mputo H100 de Nvidia y BR104 de Biren obtenidos a trav\u00e9s de una industria. conjunto est\u00e1ndar de pruebas.  Los resultados se compararon con los obtenidos en Sapphire Rapids de Intel, AI 100 de Qualcomm y X220 de Sapeon. <\/p>\n<p>MLPerf de MLCommons es un conjunto de puntos de referencia de capacitaci\u00f3n e inferencia reconocidos por decenas de empresas que respaldan a las organizaciones y env\u00edan los resultados de las pruebas de su hardware a la base de datos de MLPerf.  El conjunto de puntos de referencia de MLPerf Inference versi\u00f3n 2.1 incluye escenarios de uso perimetral y de centro de datos, as\u00ed como cargas de trabajo tales como clasificaci\u00f3n de im\u00e1genes (ResNet 50 v1.5), procesador de lenguaje natural (BERT Large), reconocimiento de voz (RNN-T), im\u00e1genes m\u00e9dicas (3D U-Net), detecci\u00f3n de objetos (RetinaNet) y recomendaci\u00f3n (DLRM). <\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>Las m\u00e1quinas que participan en estas pruebas se eval\u00faan de dos modos: en modo servidor las consultas llegan en r\u00e1fagas, mientras que en modo offline se alimentan todos los datos a la vez, por lo que evidentemente en modo offline funcionan mejor.  Adem\u00e1s, los proveedores pueden enviar los resultados obtenidos en dos condiciones: en la categor\u00eda cerrada, todos deben ejecutar redes neuronales matem\u00e1ticamente equivalentes, mientras que en la categor\u00eda abierta pueden modificarlos para optimizarlos para su hardware, informa IEEE Spectrum. <\/p>\n<p>Los resultados obtenidos en MLPerf no solo describen el rendimiento puro de los aceleradores (p. ej., un H100, un A100, un Biren BR104, etc.), sino tambi\u00e9n su escalabilidad y rendimiento por vatio para obtener una imagen m\u00e1s detallada.  Todos los resultados se pueden ver en la base de datos, pero Nvidia compil\u00f3 los resultados del rendimiento por acelerador en funci\u00f3n de las presentaciones de s\u00ed mismo y de terceros. <\/p>\n<p>Los competidores de Nvidia a\u00fan no han presentado todos sus resultados, por lo que al gr\u00e1fico publicado por Nvidia le faltan algunos resultados.  Sin embargo, a\u00fan podemos hacer algunos hallazgos bastante interesantes en la tabla publicada por Nvidia (sin embargo, tenga en cuenta que Nvidia es una parte interesada aqu\u00ed, por lo que todo debe tomarse con pinzas). <\/p>\n<figure class=\"van-image-figure inline-layout\" data-bordeaux-image-check=\"\">\n<div class=\"image-full-width-wrapper\">\n<div class=\"image-widthsetter\" style=\"max-width:1600px;\">\n<p class=\"vanilla-image-block\" style=\"padding-top:52.38%;\"><picture><source type=\"image\/webp\" alt=\"Nvidia\" class=\"expandable lazy-image-van\" onerror=\"if(this.src &amp;&amp; this.src.indexOf('missing-image.svg') !== -1)return true;;this.parentNode.replaceChild(window.missingImage(),this)\" data-normal=\"https:\/\/vanilla.futurecdn.net\/tomshardware\/media\/img\/missing-image.svg\" data-srcset=\"https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-320-80.png.webp 320w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-480-80.png.webp 480w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-650-80.png.webp 650w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-970-80.png.webp 970w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-1024-80.png.webp 1024w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-1200-80.png.webp 1200w\" data-sizes=\"(min-width: 1000px) 970px, calc(100vw - 40px)\" data-original-mos=\"https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4.png\" data-pin-media=\"https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4.png\"\/><source type=\"image\/png\" alt=\"Nvidia\" class=\"expandable lazy-image-van\" onerror=\"if(this.src &amp;&amp; this.src.indexOf('missing-image.svg') !== -1)return true;;this.parentNode.replaceChild(window.missingImage(),this)\" data-normal=\"https:\/\/vanilla.futurecdn.net\/tomshardware\/media\/img\/missing-image.svg\" data-srcset=\"https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-320-80.png 320w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-480-80.png 480w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-650-80.png 650w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-970-80.png 970w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-1024-80.png 1024w, https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4-1200-80.png 1200w\" data-sizes=\"(min-width: 1000px) 970px, calc(100vw - 40px)\" data-original-mos=\"https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4.png\" data-pin-media=\"https:\/\/cdn.mos.cms.futurecdn.net\/nK2h9R6msjPYc3Bk4DHcz4.png\"\/><\/picture><\/p>\n<\/div>\n<\/div><figcaption itemprop=\"caption description\" class=\" inline-layout\"><span class=\"credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Nvidia)<\/span><\/figcaption><\/figure>\n<p>Dado que el H100 de Nvidia es el acelerador AI\/ML m\u00e1s complejo y avanzado respaldado por un software muy sofisticado optimizado para la arquitectura CUDA de Nvidia, no es particularmente sorprendente que sea la GPU de c\u00f3mputo m\u00e1s r\u00e1pida en la actualidad, hasta 4,5 veces m\u00e1s r\u00e1pida que la A100 de Nvidia. <\/p>\n<p>Sin embargo, el BR104 de Biren Technology, que ofrece alrededor de la mitad del conjunto de rendimiento que ofrece el buque insignia BR100, se muestra bastante prometedor en las cargas de trabajo de clasificaci\u00f3n de im\u00e1genes (ResNet-50) y procesamiento de lenguaje natural (BERT-Large).  De hecho, si el BR100 es el doble de r\u00e1pido que el BR104, ofrecer\u00e1 un mayor rendimiento que el H100 de Nvidia en las cargas de trabajo de clasificaci\u00f3n de im\u00e1genes, al menos en lo que respecta al rendimiento por acelerador. <\/p>\n<p>El X220-Enterprise de Sapeon, as\u00ed como el Cloud AI 100 de Qualcomm, ni siquiera pueden resistir al A100 de Nvidia que se lanz\u00f3 hace unos dos a\u00f1os.  El procesador Xeon Scalable &#8216;Sapphire Rapids&#8217; de cuarta generaci\u00f3n de Intel puede ejecutar cargas de trabajo de IA\/ML, aunque no parece que el c\u00f3digo se haya optimizado lo suficiente para esta CPU, por lo que sus resultados son bastante bajos. <\/p>\n<p>Nvidia espera que su H100 ofrezca un rendimiento a\u00fan mayor en cargas de trabajo de IA\/ML con el tiempo y ampl\u00ede su brecha con A100 a medida que los ingenieros aprenden a aprovechar la nueva arquitectura.<\/p>\n<p>Lo que queda por ver es cu\u00e1n significativamente mejorar\u00e1n su rendimiento los aceleradores inform\u00e1ticos como BR100\/BR104 de Biren, X220-Enterprise de Sapeon y Cloud AI 100 de Qualcomm con el tiempo.  Adem\u00e1s, el verdadero competidor de la H100 de Nvidia ser\u00e1 la GPU de c\u00f3mputo Ponte Vecchio de Intel con nombre en c\u00f3digo que est\u00e1 posicionada tanto para aplicaciones de supercomputaci\u00f3n como de IA\/ML.  Adem\u00e1s, ser\u00e1 interesante ver los resultados del Instinct MI250 de AMD, que podr\u00eda decirse que est\u00e1 optimizado principalmente para supercomputadoras, en MLPerf.  Sin embargo, al menos por ahora, Nvidia tiene la corona de rendimiento de AI\/ML.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-41<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>MLCommons, un grupo de la industria que se especializa en la evaluaci\u00f3n del rendimiento de la inteligencia artificial y el hardware de aprendizaje autom\u00e1tico, agreg\u00f3 los resultados de los \u00faltimos&hellip;<\/p>\n","protected":false},"author":1,"featured_media":163404,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[38730,16411,8,843,15819,1943,1505],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/163403"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=163403"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/163403\/revisions"}],"predecessor-version":[{"id":163405,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/163403\/revisions\/163405"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/163404"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=163403"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=163403"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=163403"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}