Nvidia ha anunciado los detalles de una nueva plataforma de red diseñada específicamente con cargas de trabajo generativas de IA en mente, que promete redes sin pérdidas a la velocidad del rayo.
La nueva tecnología Spectrum-X de la compañía se construye utilizando el conmutador Ethernet Spectrum-4 y la DPU BlueField-3, y promete aumentos en el rendimiento y la eficiencia energética de hasta 1,7 veces.
en un presione soltardijo la compañía: «La entrega de capacidades de extremo a extremo reduce los tiempos de ejecución de los modelos de IA generativos masivos basados en transformadores», lo que a su vez permite a las empresas operar y tomar decisiones más rápidamente, desbloqueando el potencial de ahorro de costos.
Espectro-X Ethernet
El vicepresidente senior de redes de Nvidia, Gilad Shainer, dijo: «Spectrum-X es una nueva clase de redes Ethernet que elimina las barreras para las cargas de trabajo de IA de próxima generación que tienen el potencial de transformar industrias enteras».
Su componente clave, el conmutador Ethernet Spectrum-4, es capaz de alcanzar velocidades de 51 Tb/seg. Lo que esto significa para los consumidores es que, junto con las DPU BlueField-3 y la óptica Nvidia LinkX, se habilita una red de 400 Gigabit Ethernet.
La compañía buscó brindar una idea de las poderosas capacidades de red que las supercomputadoras de IA ahora pueden aprovechar en casos del mundo real:
“Nvidia Spectrum-X permite una escala sin precedentes de 256 puertos de 200 Gb/s conectados por un solo conmutador, o 16 000 puertos en una topología de columna vertebral de hoja de dos niveles para respaldar el crecimiento y la expansión de las nubes de IA mientras mantiene altos niveles de rendimiento y minimiza la red. latencia.»
En otra parte, el CEO de Nvidia, Jensen Huang, mostró el chip del conmutador Spectrum-4 durante su presentación en el discurso de apertura de la exposición Computex, compartiendo más información sobre su diseño. Los cien mil millones de transistores en un troquel de 90×90 mm consumen alrededor de 500 vatios, dijo.
Nvidia ya está probando su Spectrum-X en su centro de datos israelí en Israel 1, una supercomputadora de IA generativa a hiperescala que ejecuta servidores Dell PowerEdge XE9680 basados en la plataforma Nvidia HGX H100 de ocho GPU.