NVIDIA ha publicado recientemente una inmersi\u00f3n profunda de su Grace CPU Superchip de pr\u00f3xima generaci\u00f3n que ofrecer\u00eda una ganancia de rendimiento de hasta 2.5x sobre las CPU AMD EPYC.<\/p>\n
NVIDIA muestra un rendimiento de hasta 2,5 veces y una ganancia de eficiencia de 3,5 veces con el superchip de CPU Grace frente a AMD EPYC Milan<\/h2>\n
NVIDIA anunci\u00f3 por primera vez su CPU Grace y el dise\u00f1o respectivo de Superchip en GTC 2022. La CPU Grace es el primer procesador de NVIDIA basado en una arquitectura Arm personalizada que apuntar\u00e1 al segmento de servidor\/HPC. La CPU viene en dos configuraciones de Superchip, un m\u00f3dulo Grace Superchip con dos Grace CPU y un Grace+Hopper Superchip con una Grace CPU conectada a una GPU Hopper H100.<\/p>\n Algunos de los aspectos m\u00e1s destacados de Grace incluyen:<\/p>\n Siendo la primera CPU de servidor de NVIDIA, Grace cuenta con 72 n\u00facleos Arm v9.0 que ofrecen soporte para SVE2 y varias extensiones de virtualizaci\u00f3n como Nested Virtualization y S-EL2. La CPU se fabrica en el nodo de proceso 4N de TSMC, una versi\u00f3n optimizada del nodo de proceso de 5nm que se fabrica exclusivamente para NVIDIA. La nueva arquitectura puede proporcionar hasta 7,1 TFLOP de rendimiento m\u00e1ximo de FP64.<\/p>\n Grace est\u00e1 dise\u00f1ado para emparejarse y, como tal, uno de los aspectos m\u00e1s cruciales del dise\u00f1o es su interconexi\u00f3n C2C (Chip-To-Chip). Grace logra esto con NVLINK, que se usa para fabricar los Superchips y elimina todos los cuellos de botella asociados con una configuraci\u00f3n t\u00edpica de sockets cruzados.<\/p>\n La interconexi\u00f3n C2C NVLINK proporciona 900 GB\/s de ancho de banda bidireccional bruto (el mismo ancho de banda que un conmutador GPU a GPU NVLINK en Hopper), mientras se ejecuta con una interfaz de muy bajo consumo de solo 1,3 pJ\/bit o 5 veces m\u00e1s eficiente que el Protocolo PCIe.<\/p>\n La CPU NVIDIA Grace cuenta con un tejido de coherencia escalable con un dise\u00f1o de cach\u00e9 distribuido. El chip tiene hasta 3225 TB\/s de ancho de banda de dos secciones, es escalable m\u00e1s all\u00e1 de 72 n\u00facleos (144 en Superchip), integra 117 MB de cach\u00e9 L3 por n\u00facleo o 234 MB por Superchip, y cuenta con soporte para partici\u00f3n y monitoreo de memoria Arm ( MPAM). Grace tambi\u00e9n permite una arquitectura de memoria unificada con tablas de p\u00e1ginas compartidas. Se pueden interconectar dos Superchips NVIDIA Grace+Hopper a trav\u00e9s de un NVSwitch y una CPU Grace en un Superchip puede comunicarse directamente con la GPU en el otro chip o incluso acceder a su VRAM a velocidades NVLINK nativas.<\/p>\n Al observar m\u00e1s de cerca el dise\u00f1o de memoria de Grace, NVIDIA utiliza hasta 960 GB de LPDDR5X (ECC) en 32 canales, lo que brinda un ancho de banda de memoria de hasta 1 TB\/s. NVIDIA afirma que LPDDR5X proporciona el mejor valor cuando se tiene en cuenta el ancho de banda general, el costo y los requisitos de energ\u00eda. Por ejemplo, en comparaci\u00f3n con DDR5, el subsistema LPDDR5X proporciona un 53 % m\u00e1s de ancho de banda a una octava parte de la potencia por gigabyte por segundo y a un costo similar. Adem\u00e1s, la memoria HBM2e podr\u00eda haber proporcionado m\u00e1s ancho de banda y eficiencia, pero a un costo tres veces mayor.<\/p>\n Para E\/S, obtiene 68 carriles PCIe Gen 5.0, cuatro de los cuales se pueden usar para enlaces x16 a 128 GB\/s, y los dos restantes se usan para MISC. Tambi\u00e9n hay 12 carriles de carriles NVLINK coherentes compartidos con dos enlaces Gen 5 PCIe x16.<\/p>\n En cuanto al TDP, el Superchip NVIDIA Grace (solo CPU) est\u00e1 optimizado para el rendimiento de un solo n\u00facleo y ofrece hasta 1 TB\/s de ancho de banda de memoria y un TDP de 500 W para la configuraci\u00f3n de chip dual de 144 n\u00facleos.<\/p>\n Las cifras de rendimiento mostradas por NVIDIA comparan el Grace CPU Superchip con las CPU AMD EPYC 7763 \u00abMilan\u00bb de dos sockets (2P) en varias cargas de trabajo de HPC, como OpenFOAM, WRF, NEMO y BWA. En OpenFOAM, Grace CPU Superchip ofrece un incre\u00edble aumento de rendimiento de 2,5x con una eficiencia de hasta 3,5x. En promedio, el nuevo Grace CPU Superchip de NVIDIA deber\u00eda poder ofrecer un aumento de 1,9x en el rendimiento y un aumento de 2,57x en el rendimiento por vatio en comparaci\u00f3n con las CPU EPYC Milan de AMD. Esto tambi\u00e9n deber\u00eda conducir a un rendimiento competitivo frente a los chips de servidor m\u00e1s recientes de AMD e Intel.<\/p>\n Superchip de CPU NVIDIA Grace frente a CPU AMD EPYC 7763 Mil\u00e1n:<\/strong><\/p>\n Ya hemos puesto los n\u00fameros en perspectiva en un art\u00edculo anterior que se puede ver a continuaci\u00f3n:<\/p>\n NVIDIA afirma que su Grace es un procesador altamente especializado que se enfoca en cargas de trabajo como el entrenamiento de modelos NLP de pr\u00f3xima generaci\u00f3n que tienen m\u00e1s de 1 bill\u00f3n de par\u00e1metros. Cuando se combina estrechamente con GPU NVIDIA, un sistema basado en CPU Grace ofrecer\u00e1 un rendimiento 10 veces m\u00e1s r\u00e1pido que los sistemas basados \u200b\u200ben NVIDIA DGX de \u00faltima generaci\u00f3n, que se ejecutan en CPU x86.<\/p>\n Definitivamente ser\u00e1 interesante ver c\u00f3mo las CPU Grace se comparan con los chips x86, pero para cuando se lancen, estar\u00e1n compitiendo contra las CPU Genoa de AMD y Sapphire Rapids de Intel. Est\u00e1 previsto que las CPU NVIDIA Grace se utilicen en la supercomputadora ATOS como se informa aqu\u00ed.<\/p>\n NVIDIA tambi\u00e9n<\/p>\n\n
\n\n
\n Caracter\u00edsticas de la arquitectura NVIDIA Grace CPU Superchip <\/strong><\/td>\n<\/tr>\n \n Arquitectura central<\/td>\n N\u00facleos Neoverse V2: Armv9 con 4x128b SVE2<\/td>\n<\/tr>\n \n Recuento de n\u00facleos<\/td>\n 144<\/td>\n<\/tr>\n \n Cache<\/td>\n L1: 64 KB I-cache + 64 KB D-cache por n\u00facleo L2: 1 MB por n\u00facleo L3: 234 MB por superchip<\/td>\n<\/tr>\n \n tecnolog\u00eda de memoria<\/td>\n LPDDR5X con ECC, paquete conjunto<\/td>\n<\/tr>\n \n Memoria bruta BW<\/td>\n Hasta 1 TB\/s<\/td>\n<\/tr>\n \n Tama\u00f1o de la memoria<\/td>\n Hasta 960GB<\/td>\n<\/tr>\n \n pico FP64<\/td>\n 7.1 TFLOPS<\/td>\n<\/tr>\n \n PCI-Express<\/td>\n 8 interfaces PCIe Gen 5 x16; opci\u00f3n para bifurcar el ancho de banda PCIe total de 1 TB\/s. Conectividad PCIe de baja velocidad adicional para administraci\u00f3n.<\/td>\n<\/tr>\n \n Poder<\/td>\n 500 W TDP con memoria, alimentaci\u00f3n 12 V<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n ![\"CPU](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2022\/08\/NVIDIA-Grace-CPU-Superchips-_-Hot-Chips-34-_2-740x416.png\")
<\/figure>\n![\"CPU](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2022\/08\/NVIDIA-NVLINK-Hot-Chips-34-740x416.png\")
<\/figure>\n![\"nvidia-grace-cpu-superchips-_-hot-chips-34-_9\"\/](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2022\/08\/NVIDIA-Grace-CPU-Superchips-_-Hot-Chips-34-_9-265x166.png\")
<\/div>\n![\"nvidia-grace-cpu-superchips-_-hot-chips-34-_10\"\/](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2022\/08\/NVIDIA-Grace-CPU-Superchips-_-Hot-Chips-34-_10-265x166.png\")
<\/div>\n<\/div>\n<\/div>\n<\/figure>\n![\"\"](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/01\/NVIDIA-Grace-Superchip-vs-AMD-EPYC-Milan-Performance-Benchmarks.png.webp\")
<\/figure>\n![\"\"](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2022\/03\/2022-03-22_20-44-50-1030x579.png\")
<\/figure>\n