\n
Todo el mundo parece estar hablando de ChatGPT hoy en d\u00eda gracias a Microsoft Bing, pero dada la naturaleza de los modelos de lenguaje grande (LLM), se perdonar\u00eda a un jugador si siente un cierto d\u00e9j\u00e0 vu.<\/p>\n
Mira, a pesar de que los LLM se ejecutan en enormes servidores en la nube, usan GPU especiales para realizar todo el entrenamiento que necesitan para ejecutarse. Por lo general, esto significa alimentar una cantidad de datos francamente obscena a trav\u00e9s de redes neuronales que se ejecutan en una matriz de GPU con n\u00facleos de tensor sofisticados, y esto no solo requiere mucha potencia, sino que tambi\u00e9n requiere una gran cantidad de GPU reales para hacerlo a escala.<\/p>\n\nEsto se parece mucho a la criptominer\u00eda, pero tampoco lo es. La criptominer\u00eda no tiene nada que ver con los algoritmos de aprendizaje autom\u00e1tico y, a diferencia del aprendizaje autom\u00e1tico, el \u00fanico valor de la criptominer\u00eda es producir un producto digital altamente especulativo llamado token que algunas personas piensan que vale algo y, por lo tanto, est\u00e1n dispuestas a gastar dinero real en \u00e9l.<\/p>\n
Esto dio lugar a una criptoburbuja que provoc\u00f3 una escasez de GPU en los \u00faltimos dos a\u00f1os cuando los criptomineros compraron todas las tarjetas gr\u00e1ficas Nvidia Ampere desde 2020 hasta 2022, dejando a los jugadores sin nada. Esa burbuja ahora ha estallado y el stock de GPU ahora se ha estabilizado.<\/p>\n
Pero con el auge de ChatGPT, \u00bfestamos a punto de ver una repetici\u00f3n de los \u00faltimos dos a\u00f1os? Es poco probable, pero tampoco est\u00e1 fuera de discusi\u00f3n.<\/p>\n
Su tarjeta gr\u00e1fica no impulsar\u00e1 los principales LLM<\/h2>\n\n\n
\n
<\/picture><\/p>\n<\/div>\n<\/div>(Cr\u00e9dito de la imagen: futuro)<\/span><\/figcaption><\/figure>\nSi bien puede pensar que la mejor tarjeta gr\u00e1fica que puede comprar podr\u00eda ser el tipo de cosas que los tipos de aprendizaje autom\u00e1tico podr\u00edan querer para sus configuraciones, estar\u00eda equivocado. A menos que est\u00e9 en una universidad y est\u00e9 investigando algoritmos de aprendizaje autom\u00e1tico, una tarjeta gr\u00e1fica de consumo no ser\u00e1 suficiente para impulsar el tipo de algoritmo que necesita.<\/p>\n
La mayor\u00eda de los LLM y otros modelos generativos de IA que producen im\u00e1genes o m\u00fasica realmente ponen \u00e9nfasis en la primera L: Grande<\/em>. ChatGPT ha procesado una cantidad inconmensurablemente grande de texto, y una GPU de consumo no es realmente como<\/em> adecuado para esa tarea como GPU de potencia industrial que se ejecutan en una infraestructura de clase de servidor. <\/p>\nEstas son las GPU que van a tener una gran demanda, y esto es lo que tiene a Nvidia tan entusiasmada con ChatGPT: no es que ChatGPT ayude a las personas, sino que ejecutarlo requerir\u00e1 casi todas las GPU de nivel de servidor de Nvidia, lo que significa Nvidia est\u00e1 a punto de aprovechar la emoci\u00f3n de ChatGPT.<\/p>\n
El pr\u00f3ximo ChatGPT se ejecutar\u00e1 en la nube, no en hardware local.<\/h2>\n\n\n
\n
(Cr\u00e9dito de la imagen: CHUAN CHUAN a trav\u00e9s de Shutterstock)<\/span><\/figcaption><\/figure>\nA menos que sea Google o Microsoft, no est\u00e1 ejecutando su propia infraestructura LLM. Est\u00e1 utilizando el de otra persona en forma de servicios en la nube. Eso significa que no vas a tener un mont\u00f3n de nuevas empresas comprando todas las tarjetas gr\u00e1ficas para desarrollar sus propios LLM. <\/p>\n
Lo m\u00e1s probable es que veamos LLMaaS, o modelos de lenguaje grande como servicio. Tendr\u00e1 centros de datos de Microsoft Azure o Amazon Web Services con enormes granjas de servidores llenas de GPU listas para alquilar para sus algoritmos de aprendizaje autom\u00e1tico. Este es el tipo de cosas que aman las startups. Odian comprar equipo que no sea una mesa de ping-pong o un puf.<\/p>\n
Eso significa que a medida que proliferen ChatGPT y otros modelos de IA, no se ejecutar\u00e1n localmente en hardware de consumo, incluso cuando las personas que lo ejecutan sean un peque\u00f1o equipo de desarrolladores. Se ejecutar\u00e1n en hardware de nivel de servidor, por lo que nadie vendr\u00e1 por su tarjeta gr\u00e1fica.<\/p>\n
Los jugadores a\u00fan no est\u00e1n fuera de peligro<\/h2>\n Entonces, \u00bfno hay nada de qu\u00e9 preocuparse entonces? Bien…<\/p>\n
La cuesti\u00f3n es que, si bien su RTX 4090 podr\u00eda estar a salvo, la pregunta es cu\u00e1ntos RTX 5090 fabricar\u00e1 Nvidia cuando solo tenga una cantidad limitada de silicio a su disposici\u00f3n, y usar ese silicio para GPU de servidor puede ser sustancialmente m\u00e1s rentable que \u00bfUsarlo para una tarjeta gr\u00e1fica GeForce?<\/p>\n
Si hay algo que temer del auge de ChatGPT, en realidad, es la posibilidad de que se fabriquen menos GPU de consumo porque los accionistas exigen que se produzcan m\u00e1s GPU de servidor para maximizar las ganancias. Esa tampoco es una amenaza ociosa, ya que, tal como est\u00e1n escritas actualmente las reglas del capitalismo, las empresas a menudo deben hacer lo que sea que maximice los beneficios para los accionistas, y la nube siempre ser\u00e1 m\u00e1s rentable que vender tarjetas gr\u00e1ficas a los jugadores.<\/p>\n
Por otro lado, esto es realmente una cosa de Nvidia. Team Green podr\u00eda apostar por las GPU de servidor con un stock reducido de tarjetas gr\u00e1ficas de consumo, pero no son los \u00fanicos que fabrican tarjetas gr\u00e1ficas. <\/p>\n
Las tarjetas gr\u00e1ficas AMD RDNA 3 acaban de presentar el hardware de IA, pero esto no se parece en nada a los n\u00facleos tensoriales de las tarjetas Nvidia, lo que convierte a Nvidia en la opci\u00f3n de facto para el uso del aprendizaje autom\u00e1tico. Eso significa que AMD podr\u00eda convertirse en el fabricante de tarjetas predeterminado para los jugadores, mientras que Nvidia pasa a otra cosa. <\/p>\n
Definitivamente es posible y, a diferencia de la criptograf\u00eda, no es probable que AMD sea una tarjeta LLM de segunda clase que a\u00fan sea buena para LLM si no poder<\/em> obtener una tarjeta Nvidia. AMD realmente no est\u00e1 equipado para el aprendizaje autom\u00e1tico en absoluto, especialmente no al nivel que requieren los LLM, por lo que AMD simplemente no es un factor aqu\u00ed. Eso significa que siempre habr\u00e1 tarjetas gr\u00e1ficas de nivel de consumidor para los jugadores, y tambi\u00e9n buenas, es posible que no haya tantas tarjetas Nvidia como antes.<\/p>\nA los partidarios del Equipo Verde puede que no les guste ese futuro, pero es el m\u00e1s probable dado el surgimiento de ChatGPT.<\/p>\n<\/div>\n
Source link-35<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Todo el mundo parece estar hablando de ChatGPT hoy en d\u00eda gracias a Microsoft Bing, pero dada la naturaleza de los modelos de lenguaje grande (LLM), se perdonar\u00eda a un…<\/p>\n","protected":false},"author":1,"featured_media":479338,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[65604,226,8652,12715,5327,5990,35201,110,3915,14285,5651],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/491515"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=491515"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/491515\/revisions"}],"predecessor-version":[{"id":491516,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/491515\/revisions\/491516"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/479338"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=491515"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=491515"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=491515"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}