Intel finalmente ha revelado su acelerador de IA de pr\u00f3xima generaci\u00f3n, el Gaudi 3, basado en un nodo de proceso de 5 nm y que compite directamente con las GPU H100 de NVIDIA.<\/p>\n
Los aceleradores de IA Intel Gaudi 3 luchan contra NVIDIA y ofrecen un rendimiento de IA un 50 % m\u00e1s r\u00e1pido en promedio y un 40 % de eficiencia<\/h2>\n
Los aceleradores de IA Gaud\u00ed de Intel han sido un gran competidor y la \u00fanica alternativa a las GPU de NVIDIA en el segmento de IA. Recientemente vimos algunas comparaciones acaloradas entre las GPU Gaudi 2 y NVIDIA A100\/H100, con Intel mostrando su fuerte liderazgo en rendimiento\/$, mientras que NVIDIA se mantuvo como l\u00edder general en IA en t\u00e9rminos de rendimiento. Ahora comienza el tercer cap\u00edtulo en el viaje de Intel a la IA con su acelerador Gaudi 3, que se ha detallado completamente.<\/p>\n La compa\u00f1\u00eda anunci\u00f3 el acelerador Gaudi 3, que presenta la \u00faltima arquitectura Tensor Core (quinta generaci\u00f3n) con un total de 64 n\u00facleos tensoriales empaquetados en dos matrices de c\u00f3mputo. La GPU en s\u00ed tiene un grupo de cach\u00e9 de 96 MB que se comparte entre ambas matrices y hay ocho sitios HBM, cada uno con pilas de 8 hi de 16 Gb HBM2e DRAM para capacidades de hasta 128 GB y ancho de banda de hasta 3,7 TB\/s. Todo el chip se fabrica utilizando la tecnolog\u00eda de nodo de proceso TSMC de 5 nm y hay un total de 24 enlaces de interconexi\u00f3n de 200 GbE.<\/p>\n En t\u00e9rminos de ofertas de productos, los aceleradores Intel Gaudi 3 AI vendr\u00e1n en formato Mezzanine OAM (HL-325L) con variantes est\u00e1ndar de hasta 900 W y m\u00e1s de 900 W con refrigeraci\u00f3n l\u00edquida y PCIe AIC con altura completa, doble ancho y Dise\u00f1o de 10,5″ de longitud. Las tarjetas PCIe Gaudi 3 HL-338 vendr\u00e1n con refrigeraci\u00f3n pasiva y admitir\u00e1n hasta 600 W TDP con las mismas especificaciones que la variante OAM.<\/p>\n La compa\u00f1\u00eda tambi\u00e9n anunci\u00f3 su propia placa base HLB-325 y su subsistema integrado HLFB-325L que puede transportar hasta 8 aceleradores Gaudi 3. Este sistema tiene un TDP combinado de 7,6 kilovatios y mide 19″.<\/p>\n La continuaci\u00f3n de Gaudi 3 vendr\u00e1 en forma de Falcon Shores, que se espera para 2025 y combinar\u00e1 las IP Gaudi y Xe en una \u00fanica interfaz de programaci\u00f3n de GPU construida en torno a la especificaci\u00f3n Intel oneAPI.<\/p>\n Presione soltar:<\/strong> En Intel Vision, Intel presenta el acelerador de IA Intel Gaudi 3, que ofrece 4 veces computaci\u00f3n de IA para BF16, 1,5 veces m\u00e1s ancho de banda de memoria y 2 veces m\u00e1s ancho de banda de red para una ampliaci\u00f3n masiva del sistema en comparaci\u00f3n con su predecesor: un salto significativo en rendimiento y productividad. para entrenamiento e inferencia de IA en modelos de lenguaje grande (LLM) y modelos multimodales populares.<\/p>\n El acelerador Intel Gaudi 3 cumplir\u00e1 con estos requisitos y ofrecer\u00e1 versatilidad a trav\u00e9s de software abierto basado en la comunidad y Ethernet abierto est\u00e1ndar de la industria, ayudando a las empresas a escalar de manera flexible sus sistemas y aplicaciones de IA.<\/p>\n C\u00f3mo la arquitectura personalizada ofrece rendimiento y eficiencia GenAI:<\/strong> El acelerador Intel Gaudi 3, dise\u00f1ado para una computaci\u00f3n eficiente de IA a gran escala, se fabrica en un proceso de 5 nan\u00f3metros (nm) y ofrece avances significativos con respecto a su predecesor. Est\u00e1 dise\u00f1ado para permitir la activaci\u00f3n de todos los motores en paralelo, con Matrix Multiplication Engine (MME), Tensor Processor Cores (TPC) y Networking Interface Cards (NIC), lo que permite la aceleraci\u00f3n necesaria para una computaci\u00f3n y escala de aprendizaje profundo r\u00e1pidas y eficientes. Las caracter\u00edsticas clave incluyen:<\/p>\n El acelerador Intel Gaudi 3 ofrecer\u00e1 importantes mejoras de rendimiento para tareas de capacitaci\u00f3n e inferencia en los principales modelos GenAI. Espec\u00edficamente, se prev\u00e9 que el acelerador Intel Gaudi 3 ofrezca un rendimiento promedio en comparaci\u00f3n con NVIDIA H100:<\/p>\n Acerca de la adopci\u00f3n y disponibilidad del mercado:<\/strong> El acelerador Intel Gaudi 3 estar\u00e1 disponible para los fabricantes de equipos originales (OEM) en el segundo trimestre de 2024 en configuraciones est\u00e1ndar de la industria de placa base universal y m\u00f3dulo de acelerador abierto (OAM). Entre los adoptantes OEM notables que llevar\u00e1n Gaudi 3 al mercado se encuentran Dell Technologies, HPE, Lenovo y Supermicro. Se prev\u00e9 la disponibilidad general de los aceleradores Intel Gaudi 3 para el tercer trimestre de 2024, y se prev\u00e9 que la tarjeta complementaria Intel Gaudi 3 PCIe est\u00e9 disponible en el \u00faltimo trimestre de 2024.<\/p>\n El acelerador Intel Gaudi 3 tambi\u00e9n impulsar\u00e1 varias infraestructuras LLM en la nube rentables para capacitaci\u00f3n e inferencia, ofreciendo ventajas y opciones de precio-rendimiento a las organizaciones que ahora incluyen NAVER.<\/p>\n\n
![\"\"](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/04\/Intel-Gaudi-3-1-scaled.jpg\")
<\/div>\n
![\"\"](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2024\/04\/Intel-Gaudi-3-5-scaled.jpg\")
<\/div>