Dell y Nvidia han anunciado que se están uniendo en un intento por ayudar a ofrecer soluciones de hardware impulsadas por IA para empresas.
Los dos gigantes tecnológicos están fusionando sus áreas de especialización en un solo paquete, lo que permite a las empresas beneficiarse del poder de la IA generativa, incluidos los LLM como el popular escritor de IA ChatGPT, en las instalaciones.
Apodado Project Helix, la iniciativa también proporcionará planos validados e implementaciones de referencia para ayudar a las empresas a poner en marcha sus cargas de trabajo de IA.
proyecto hélice
En cuanto al hardware, Dell proporcionará sus servidores PowerEdge, como el XE9680 y el R760a, y Nvidia proporcionará sus nuevas GPU de núcleo tensor H100, que suceden a la A100 utilizada para potenciar ChatGPT.
El hardware se integrará con Dell PowerScale y Dell ECS, las soluciones de almacenamiento de la empresa, y Nvidia también proporcionará su software Nvidia AI Enterprise, además de utilizar el marco Nvidia NeMo para IA generativa.
Kari Briski, vicepresidente de gestión de productos de software de Nvidia, dijo a VentureBeat que con esta solución local para las cargas de trabajo de IA, «estamos brindando seguridad y privacidad a los clientes empresariales». Lo más común es que la empresa utilice IA alojada en la nube, no en las instalaciones.
Agregó: «Cada empresa necesita un LLM para su negocio, por lo que tiene sentido hacer esto en las instalaciones».
Aunque Briski admitió que la IA generativa puede estar sobrevalorada en algunos casos, quería que la nueva empresa conjunta entre las dos empresas permitiera lo que ella denominó LLMops: hacer que los LLM sean operativos para fines empresariales prácticos.
“Lo que no hemos estado haciendo es proporcionar estos modelos básicos preentrenados de una manera que sea fácilmente replicable”, dijo.
Los planos del Proyecto Helix guiarán a las empresas en la personalización de su implementación de IA para satisfacer sus necesidades específicas. Varun Chhabra, vicepresidente sénior de marketing de productos de Dell, cree que es fundamental obtener la combinación correcta de recursos informáticos y que Project Helix proporciona las mejores formas de lograrlo.
Además de en las instalaciones, Chhabra también cree que con el hardware de Dell, las empresas también pueden beneficiarse de la IA implementada en la nube.
Los diseños basados en Project Helix estarán disponibles a partir de julio de este año, a través de los canales tradicionales y las opciones de consumo flexible de APEX.