NVIDIA anuncia su nueva iniciativa AI Foundry Services para acelerar a\u00fan m\u00e1s la IA, mientras que Microsoft Azure ofrece las \u00faltimas instancias de Hopper.<\/p>\n
Los servicios de fundici\u00f3n de IA de NVIDIA y las instancias Hopper H100\/H200 de Microsoft Azure impulsan la IA a nuevas alturas<\/h2>\n
Presione soltar:<\/strong> NVIDIA anunci\u00f3 un servicio de fundici\u00f3n de IA, una colecci\u00f3n de modelos NVIDIA AI Foundation, el marco y las herramientas de NVIDIA NeMo y los servicios y supercomputaci\u00f3n de IA en la nube DGX que brindan a las empresas una soluci\u00f3n de extremo a extremo para crear y optimizar productos personalizados. Utilizando el servicio de fundici\u00f3n de IA, Amdocs, un proveedor l\u00edder de software y servicios para proveedores de medios y comunicaciones, optimizar\u00e1 modelos de lenguajes grandes de nivel empresarial para las industrias de telecomunicaciones y medios para implementar de manera eficiente casos de uso de IA generativa en sus negocios, desde las experiencias de los clientes hasta operaciones y aprovisionamiento de red. Los LLM se ejecutar\u00e1n en computaci\u00f3n acelerada de NVIDIA como parte del marco Amdocs amAIz.<\/p>\n La colaboraci\u00f3n se basa en la asociaci\u00f3n Amdocs-Microsoft anunciada anteriormente, que permite a los proveedores de servicios adoptar estas aplicaciones en entornos seguros y confiables, incluidos los locales y la nube.<\/p>\n Mientras NVIDIA contin\u00faa colaborando con Microsoft para construir una infraestructura de IA de \u00faltima generaci\u00f3n, Microsoft est\u00e1 introduciendo m\u00e1quinas virtuales adicionales basadas en H100 en Microsoft Azure para acelerar las cargas de trabajo de IA (de rango medio).<\/p>\n En su conferencia Ignite celebrada hoy en Seattle, Microsoft anunci\u00f3 su nueva serie de m\u00e1quinas virtuales NC H100 v5 para Azure, las primeras instancias en la nube de la industria que cuentan con GPU NVIDIA H100 NVL. Esta oferta re\u00fane un par de GPU H100 basadas en PCIe conectadas a trav\u00e9s de NVIDIA NVLink, con casi 4 petaflops de computaci\u00f3n AI y 188 GB de memoria HBM3 m\u00e1s r\u00e1pida. La GPU NVIDIA H100 NVL puede ofrecer un rendimiento hasta 12 veces mayor en GPT-3 175B respecto a la generaci\u00f3n anterior y es ideal para cargas de trabajo de inferencia y entrenamiento convencional.<\/p>\n Adem\u00e1s, Microsoft anunci\u00f3 planes para agregar la GPU NVIDIA H200 Tensor Core a su flota de Azure el pr\u00f3ximo a\u00f1o para admitir inferencia de modelos m\u00e1s grandes sin reducci\u00f3n de latencia. Esta nueva oferta est\u00e1 dise\u00f1ada espec\u00edficamente para acelerar las cargas de trabajo de IA m\u00e1s grandes, incluidos los LLM y los modelos de IA generativa. La GPU H200 ofrece aumentos espectaculares tanto en la capacidad de memoria como en el ancho de banda utilizando la memoria HBM3e de \u00faltima generaci\u00f3n.<\/p>\n En comparaci\u00f3n con su predecesora, esta nueva GPU ofrecer\u00e1 141 GB de memoria HBM3e (1,8 veces m\u00e1s) y 4,8 TB\/s de ancho de banda de memoria m\u00e1ximo (un aumento de 1,4 veces).<\/p>\n Para ampliar a\u00fan m\u00e1s la disponibilidad de la computaci\u00f3n de IA generativa acelerada por NVIDIA para los clientes de Azure, Microsoft anunci\u00f3 otra instancia impulsada por NVIDIA: la NCC H100 v5.<\/p>\n Estas m\u00e1quinas virtuales (VM) confidenciales de Azure con GPU NVIDIA H100 Tensor Core permiten a los clientes de Azure proteger la confidencialidad e integridad de sus datos y aplicaciones en uso, en la memoria, mientras acceden a la aceleraci\u00f3n insuperable de las GPU H100. Estas m\u00e1quinas virtuales confidenciales mejoradas con GPU pronto estar\u00e1n disponibles en versi\u00f3n preliminar privada.<\/p>\n
Modelos de IA generativa.<\/p>\nNuevas instancias de GPU NVIDIA H100 y H200 Tensor Core llegar\u00e1n a Microsoft Azure para acelerar las cargas de trabajo de IA<\/h4>\n
![\"NVIDIA](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/11\/2023-11-15_2-11-32.png\")
<\/figure>\n<\/p>\n![\"2023-11-15_2-11-22\"\/](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/11\/2023-11-15_2-11-22-564x317.png\")
<\/div>\n![\"2023-11-15_2-11-21\"\/](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/11\/2023-11-15_2-11-21-564x317.png\")
<\/div>\n<\/div>\n<\/div>\n<\/figure>\nLa computaci\u00f3n en la nube se vuelve confidencial<\/h4>\n
![](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/10\/THOR_300x250.jpg\")
<\/div>\n![](\"https:\/\/cdn.wccftech.com\/wp-content\/uploads\/2023\/10\/THOR_728x90.jpg\")
<\/div>\n<\/div>\n