{"id":825695,"date":"2023-09-29T10:19:03","date_gmt":"2023-09-29T10:19:03","guid":{"rendered":"https:\/\/magazineoffice.com\/el-desarrollador-de-llm-respaldado-por-amd-se-burla-de-la-escasez-de-gpu-con-ia-de-nvidia\/"},"modified":"2023-09-29T10:19:36","modified_gmt":"2023-09-29T10:19:36","slug":"el-desarrollador-de-llm-respaldado-por-amd-se-burla-de-la-escasez-de-gpu-con-ia-de-nvidia","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/el-desarrollador-de-llm-respaldado-por-amd-se-burla-de-la-escasez-de-gpu-con-ia-de-nvidia\/","title":{"rendered":"El desarrollador de LLM respaldado por AMD se burla de la escasez de GPU con IA de NVIDIA"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Un desarrollador de LLM con sede en AMD se burl\u00f3 de la escasez de GPU con IA de NVIDIA en un v\u00eddeo corto bastante interesante.  La escasez de GPU de IA de NVIDIA se est\u00e1 convirtiendo en un problema importante para el sector de la IA, incluidas las nuevas empresas de IA que est\u00e1n empezando a trasladarse a otros campos para satisfacer su demanda.<\/p>\n<h2>El CEO de Lamini publica un video corto interesante que representa con precisi\u00f3n la escasez de GPU con IA de NVIDIA y prepara las GPU AMD Instinct<\/h2>\n<p>Lamini es una empresa centrada en LLM para empresas y desarrolladores que se centra en el desarrollo de IA.  Su director ejecutivo <a href=\"https:\/\/twitter.com\/realSharonZhou\/status\/1706708589837254946?ref_src=twsrc%5Etfw%7Ctwcamp%5Etweetembed%7Ctwterm%5E1706708589837254946%7Ctwgr%5Eefc56701d3fd27da9a55e81c22a2b2cbbc44e655%7Ctwcon%5Es1_&amp;ref_url=https%3A%2F%2Fwccftech.com%2Fwp-admin%2Fpost.php%3Fpost%3D1467935action%3Dedit\" target=\"_blank\" rel=\"noopener\">Sharon Zhou<\/a> apareci\u00f3 en X para expresar la frustraci\u00f3n de varias nuevas empresas de IA, incluidas ellas mismas, por la falta de disponibilidad de las GPU de IA de NVIDIA, a trav\u00e9s de un v\u00eddeo breve y divertido.<\/p>\n<blockquote class=\"twitter-tweet\" data-width=\"500\" data-dnt=\"true\">\n<p lang=\"en\" dir=\"ltr\">Simplemente preparando algunas GPU \ud83d\udc81\ud83c\udffb\u200d\u2640\ufe0f<\/p>\n<p>Felicitaciones a Jensen por hornearlos primero https:\/\/t.co\/4448NNf2JP <a href=\"https:\/\/t.co\/IV4UqIS7OR\" target=\"_blank\">pic.twitter.com\/IV4UqIS7OR<\/a><\/p>\n<p>\u2014Sharon Zhou (@realSharonZhou) <a href=\"https:\/\/twitter.com\/realSharonZhou\/status\/1706708589837254946?ref_src=twsrc%5Etfw\" target=\"_blank\" rel=\"noopener\">26 de septiembre de 2023<\/a><\/p>\n<\/blockquote>\n<p>Sharon entra a una cocina (un escenario bastante ic\u00f3nico para el propio CEO de NVIDIA) en busca de un acelerador de IA LLM y abre un horno para ver qu\u00e9 se est\u00e1 \u00abcocinando\u00bb.  Sin embargo, el tiempo de espera en el horno fue de hasta 52 semanas, pero luego revis\u00f3 su parrilla y vio los aceleradores Instinct de AMD listos para ser usados.<\/p>\n<p><iframe loading=\"lazy\" title=\"What\u2019s Jensen been cooking?\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/So7TNRhIYJ8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p>La representaci\u00f3n de Sharon de la situaci\u00f3n actual es precisa, ya que las GPU con IA de NVIDIA, especialmente las H100, se enfrentan actualmente a enormes retrasos en los pedidos, con fechas de entrega que superan los seis meses.  AMD tiene una ventaja aqu\u00ed, ya que el volumen de pedidos de aceleradores Instinct AI que la compa\u00f1\u00eda tiene actualmente no es nada comparado con lo que NVIDIA est\u00e1 cumpliendo.  Lamini ha estado ejecutando las GPU Instinct de AMD en LLM desde hace un tiempo y la compa\u00f1\u00eda est\u00e1 comprometida con una amplia cooperaci\u00f3n con AMD.<\/p>\n<blockquote>\n<p class=\"paragraph\">Es m\u00e1s, con Lamini puedes dejar de preocuparte por el plazo de entrega de 52 semanas para las NVIDIA H100.  Con Lamini exclusivamente, puede crear sus propios LLM empresariales y enviarlos a producci\u00f3n en las GPU AMD Instinct.  Y shhhh\u2026 Lamini ha estado ejecutando en secreto m\u00e1s de cien GPU AMD en producci\u00f3n durante todo el a\u00f1o, incluso antes del lanzamiento de ChatGPT.  Entonces, si probaste Lamini, entonces probaste AMD.<\/p>\n<p>Ahora, estamos emocionados de abrir las GPU listas para LLM a m\u00e1s personas.  Nuestra LLM Superstation est\u00e1 disponible tanto en la nube como en las instalaciones.  Combina la infraestructura LLM empresarial f\u00e1cil de usar de Lamini con los aceleradores AMD Instinct MI210 y MI250.  Est\u00e1 optimizado para LLM de empresas privadas, dise\u00f1ado para diferenciarse fuertemente con datos propietarios.<\/p>\n<p class=\"paragraph\">Lamini es la \u00fanica plataforma LLM que se ejecuta exclusivamente en GPU AMD Instinct (en producci\u00f3n).  \u00a1Env\u00ede sus propios LLM patentados!  Simplemente haga un pedido de LLM Superstation para ejecutar su propio Llama 2-70B listo para usar, disponible ahora y con un precio atractivo (10 veces menos que AWS).<\/p>\n<p>v\u00eda Lamini<\/p>\n<\/blockquote>\n<figure><\/figure>\n<p>La industria a\u00fan no ha visto una adopci\u00f3n a gran escala de las GPU Instinct de AMD, y por ahora no han alcanzado el nivel de \u00abpopularidad\u00bb de las H100 de NVIDIA.  Hablando de rendimiento, todos sabemos que los H100 est\u00e1n a la cabeza;  sin embargo, AMD est\u00e1 cerrando la brecha aqu\u00ed a trav\u00e9s de r\u00e1pidas mejoras dentro de su pila de software ROCm, lo que ayuda a un mayor rendimiento inform\u00e1tico general.  Team Red ha planeado el Instinct MI400 y el MI300X como lanzamientos futuros, pero a\u00fan no han llegado al mercado;  por lo tanto, no podemos comentar al respecto.<\/p>\n<p>La \u00fanica ventaja que AMD puede aprovechar es la capacidad de la compa\u00f1\u00eda para atender grandes pedidos, ya que NVIDIA est\u00e1 a la defensiva en este departamento.  Con tiempos de espera de un a\u00f1o para las NVIDIA H100, las empresas y startups de LLM eventualmente mirar\u00e1n a AMD e Intel, raz\u00f3n por la cual todas las empresas de tecnolog\u00eda est\u00e1n acelerando enormemente sus desarrollos de IA a medida que avanzan en 2024.<\/p>\n<p class=\"source\">Fuente de noticias: Tom&#8217;s Hardware<\/p>\n<div class=\"story-share-bottom\" data-nosnippet=\"\">\n<p>\t\t\t\tComparte esta historia<\/p>\n<p><svg width=\"20\" height=\"20\"><use xlink:href=\"#icn-shareFacebook\"\/><\/svg>  Facebook<\/p>\n<p><svg width=\"20\" height=\"20\"><use xlink:href=\"#icn-shareTwitter\"\/><\/svg>  Gorjeo<\/p>\n<\/p><\/div>\n<\/p><\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-29 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Un desarrollador de LLM con sede en AMD se burl\u00f3 de la escasez de GPU con IA de NVIDIA en un v\u00eddeo corto bastante interesante. La escasez de GPU de&hellip;<\/p>\n","protected":false},"author":1,"featured_media":825697,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[6783,2775,133,1309,9472,4256,86655,843,110,12850],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/825695"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=825695"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/825695\/revisions"}],"predecessor-version":[{"id":825698,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/825695\/revisions\/825698"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/825697"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=825695"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=825695"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=825695"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}