Intel y BCG se han unido como parte de su nueva asociación estratégica para impulsar la IA generativa con los aceleradores Habana Labs Gaudi.
Intel ingresará al segmento de IA generativa con sus aceleradores Habana Gaudi, se anuncia asociación estratégica con BCG
La IA generativa y la IA, en general, es el tema candente en estos días. NVIDIA actualmente lidera este espacio con sus GPU AI y AMD está siguiendo su ejemplo. Ahora, Intel también ha decidido ingresar al segmento en una nueva asociación con BCG que desea ofrecer IA generativa segura y de nivel empresarial.
Para este propósito, BCG aprovechará el ecosistema de hardware de Intel, que incluye procesadores escalables Xeon y aceleradores Habana Gaudi optimizados para inteligencia artificial junto con una gama de software híbrido a escala de nube.
«La IA generativa es un espacio emergente y dinámico, lo que significa que las organizaciones deben elegir la tecnología adecuada para impulsar su viaje GenAI», dice Suchi Srinivasan, director gerente y socio de BCG. “La tecnología debe ser de nivel empresarial desde el primer día y permitir privacidad, seguridad, facilidad de uso y escalabilidad. Nuestra colaboración con Intel permitirá a las empresas desarrollar ventajas competitivas a través de soluciones GenAI personalizadas mientras navegan cuidadosamente por los cambios de personas, procesos y políticas necesarios para obtener el máximo valor de estas soluciones transformadoras.
La IA generativa requiere un enfoque verdaderamente democratizado que permita una elección más segura y escalable para que las empresas puedan beneficiarse de la tecnología de manera segura”, dijo Sandra Rivera, vicepresidenta ejecutiva y gerente general del Centro de Datos y el Grupo de IA de Intel. “Nuestra colaboración con BCG nos permite ayudar a los clientes a crear aplicaciones de inteligencia artificial generativa que requieren tecnología optimizada en toda la pila completamente dentro del perímetro de seguridad elegido”.
a través de Intel/BCG
Intel ofrece actualmente sus aceleradores Habana Gaudi de segunda generación basados en el nodo de proceso de 7 nm, que ofrece 24 TPC para decodificación y procesamiento de medios que se ejecutan en un formato FP8 (frente a 8 TPC). La configuración de memoria incluye 96 GB de memoria HBM2e, que ofrece un ancho de banda de 2,45 TB/s y 48 MB adicionales de SRAM. La red se proporciona a través de 24 conmutadores de 100 GbE. Un salto tan grande en el rendimiento también significa que el TDP debe aumentar drásticamente y el Gaudi2 funciona a un TDP de 600 W (frente a 350 W). Se dice que estos chips son competitivos frente a las GPU A100 AI de NVIDIA en rendimiento/costo.
La compañía también está trabajando en sus aceleradores Habana Gaudi de tercera generación, que utilizarán el nodo de proceso TSMC de 5 nm y ofrecerán un rendimiento aún mayor y un aumento de la eficiencia. En comparación con NVIDIA H100, la última oferta del equipo verde, el acelerador Gaudi3 será muy competitivo en cuanto a precio y rendimiento. Incluso habrá soluciones híbridas que combinen la experiencia tecnológica de los aceleradores Haban Gaudi (4.ª generación) con las GPU de hiperescala de Intel, como Ponte Vecchio de AXG en el futuro.
“Gaudi3 llegará muy pronto”, dijo Medina. “En realidad está en la fabricación. Será nuestro producto TSMC de 5 nm.
En este momento, Ponte Vecchio se centra en Argonne National Lab, ¿verdad? Más del caso de uso de HPC”, dijo Medina. “Intel está reconociendo que si ese servidor necesita hacer solo IA, si es una carga pesada, entonces es Gaudi2, y será Gaudi3 inmediatamente después de eso. Ahora, la próxima generación, la cuarta generación, combinará las capacidades de Gaudí y algunas de las capacidades de AXG.
Ya estamos en el diseño de lo que será el acelerador de próxima generación”, agregó Medina. “Intel realmente unificará las hojas de ruta entre Habana y el lado AXG de la organización. Estamos trabajando en una integración más profunda”.
Eitan Medina, director de operaciones de Intel Habana (a través de HPC Wire)
Definitivamente, parece que Intel no esperará más mientras otros suben la escalera de la IA y también se unirán a la carrera. Una vez más, los demás, especialmente NVIDIA, tienen años de liderazgo en el segmento de IA, por lo que será necesario ponerse al día para los demás jugadores.