\n
Google ha anunciado su nueva supercomputadora en la nube A3, que ahora est\u00e1 disponible en vista previa privada. <\/p>\n
La nueva potencia se puede utilizar para entrenar modelos de Machine Learning (ML), continuando con el reciente impulso del gigante tecnol\u00f3gico para ofrecer infraestructura en la nube para prop\u00f3sitos de IA, como el nuevo G2 (se abre en una pesta\u00f1a nueva)<\/span>la primera m\u00e1quina virtual (VM) en la nube que utiliza la nueva GPU NVIDIA L4 Tensor Core.<\/p>\n\nen una entrada de blog (se abre en una pesta\u00f1a nueva)<\/span>se\u00f1al\u00f3 la compa\u00f1\u00eda, \u00ablas supercomputadoras Google Compute Engine A3 est\u00e1n dise\u00f1adas espec\u00edficamente para entrenar y servir a los modelos de IA m\u00e1s exigentes que impulsan la IA generativa actual y la innovaci\u00f3n de modelos de lenguaje grande\u00bb.<\/p>\nA2 contra A3<\/h2>\n El A3 usa la GPU Nvidia H100, que es el sucesor del popular A100, que se us\u00f3 para impulsar el A2 anterior. Tambi\u00e9n se usa para potenciar ChatGPT, el escritor de IA que inici\u00f3 la carrera de IA generativa cuando se lanz\u00f3 en noviembre del a\u00f1o pasado. <\/p>\n
El A3 tambi\u00e9n es la primera VM en la que las GPU utilizar\u00e1n las VPU de 200 Gbps dise\u00f1adas a medida de Google, lo que permite diez veces el ancho de banda de red de las VM A2 anteriores. <\/p>\n
El A3 tambi\u00e9n har\u00e1 uso del centro de datos J\u00fapiter de Google, que puede escalar a decenas de miles de GPU interconectadas y \u00abpermite enlaces \u00f3pticos reconfigurables de ancho de banda completo que pueden ajustar la topolog\u00eda a pedido\u00bb.<\/p>\n
Google tambi\u00e9n afirma que \u00abel ancho de banda de la carga de trabajo… es indistinguible de las estructuras de red sin bloqueo disponibles en el mercado m\u00e1s costosas, lo que resulta en un TCO m\u00e1s bajo\u00bb. El A3 tambi\u00e9n \u00abproporciona hasta 26 exaFlops de rendimiento de IA, lo que mejora considerablemente el tiempo y los costos para entrenar grandes modelos de ML\u00bb.<\/p>\n
Cuando se trata de cargas de trabajo de inferencia, que es el verdadero trabajo que realiza la IA generativa, Google nuevamente hace otra afirmaci\u00f3n audaz de que el A3 logra un aumento del rendimiento de inferencia de 30 veces m\u00e1s que el A2. <\/p>\n
Adem\u00e1s de los ocho H100 con un ancho de banda biseccional de 3,6 TB\/s entre ellos, las otras especificaciones destacadas del A3 incluyen los procesadores escalables Intel Xeon de cuarta generaci\u00f3n de pr\u00f3xima generaci\u00f3n y 2 TB de memoria host a trav\u00e9s de DIMM DDR5 de 4800 MHz.<\/p>\n
\u201cLas m\u00e1quinas virtuales A3 de Google Cloud, con tecnolog\u00eda de GPU NVIDIA H100 de pr\u00f3xima generaci\u00f3n, acelerar\u00e1n el entrenamiento y el servicio de aplicaciones de IA generativa\u201d, dijo Ian Buck, vicepresidente de computaci\u00f3n de hiperescala y alto rendimiento de NVIDIA.<\/p>\n
En un anuncio complementario en Google I\/O 2023 (se abre en una pesta\u00f1a nueva)<\/span>la compa\u00f1\u00eda tambi\u00e9n dijo que el soporte de IA generativa en Vertex AI estar\u00e1 disponible para m\u00e1s clientes ahora, lo que permite la construcci\u00f3n de modelos ML en una infraestructura totalmente administrada que renuncia a la necesidad de mantenimiento.<\/p>\nLos clientes tambi\u00e9n pueden implementar A3 en Google Kubernetes Engine (GKE) y Compute Engine, lo que significa que pueden obtener soporte para el escalado autom\u00e1tico y la orquestaci\u00f3n de cargas de trabajo, adem\u00e1s de tener derecho a actualizaciones autom\u00e1ticas.<\/p>\n
Parece que Google est\u00e1 adoptando el enfoque B2B en lo que respecta a la IA, en lugar de liberar una IA para que cualquiera pueda jugar, tal vez despu\u00e9s de haber sido quemado por el lanzamiento desfavorable de su rival ChatGPT, Google Bard. Sin embargo, tambi\u00e9n anunci\u00f3 PaLM 2 en Google I\/O, que es su sucesor y supuestamente m\u00e1s poderoso que otros LLM, por lo que tendremos que estar atentos a este espacio.<\/p>\n<\/div>\n
Source link-36<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Google ha anunciado su nueva supercomputadora en la nube A3, que ahora est\u00e1 disponible en vista previa privada. La nueva potencia se puede utilizar para entrenar modelos de Machine Learning…<\/p>\n","protected":false},"author":1,"featured_media":622816,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[1480,8362,148,829,3672,882,84,20344,22540],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/622815"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=622815"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/622815\/revisions"}],"predecessor-version":[{"id":622817,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/622815\/revisions\/622817"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/622816"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=622815"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=622815"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=622815"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}