{"id":534572,"date":"2023-03-24T07:58:28","date_gmt":"2023-03-24T07:58:28","guid":{"rendered":"https:\/\/magazineoffice.com\/como-construir-tu-propia-alternativa-de-chatgpt-a-bajo-precio-hay-una-manera\/"},"modified":"2023-03-24T07:58:31","modified_gmt":"2023-03-24T07:58:31","slug":"como-construir-tu-propia-alternativa-de-chatgpt-a-bajo-precio-hay-una-manera","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/como-construir-tu-propia-alternativa-de-chatgpt-a-bajo-precio-hay-una-manera\/","title":{"rendered":"\u00bfC\u00f3mo construir tu propia alternativa de ChatGPT a bajo precio?  hay una manera"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Por un par de miles de d\u00f3lares al mes, ahora puede reservar la capacidad de una sola GPU Nvidia HGX H100 a trav\u00e9s de una empresa llamada <u>CoreWeave<\/u>.  El H100 es el sucesor del A100, la GPU que fue fundamental en el entrenamiento de ChatGPT en LLM (modelos de lenguaje grande).  Los precios comienzan en $2.33 por hora, eso es $56 por d\u00eda o alrededor de $20,000 por a\u00f1o;  en comparaci\u00f3n, un solo HGX H100 cuesta alrededor de $ 28,000 en el mercado abierto (<u>NVH100TCGPU-KIT<\/u>) y menos al por mayor.<\/p>\n<p>Pagar\u00e1 m\u00e1s por los precios al contado ($ 4,76 por hora) y aunque hay un SKU m\u00e1s econ\u00f3mico disponible (HGX H100 PCIe, a diferencia del modelo NVLINK), a\u00fan no se puede pedir.  Una configuraci\u00f3n de instancia de GPU v\u00e1lida debe incluir al menos una GPU, al menos una vCPU y al menos 2 GB de RAM.  Al implementar un servidor privado virtual (<u>VPS<\/u>), la configuraci\u00f3n de la instancia de GPU tambi\u00e9n debe incluir al menos 40 GB de almacenamiento de nivel NVMe en el disco ra\u00edz.<\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>La noticia llega despu\u00e9s de una serie de anuncios en el GTC 2023 de Nvidia, donde la IA generativa estaba a la izquierda, a la derecha y al centro.  La tecnolog\u00eda emplea capacitaci\u00f3n LLM que permite el trabajo creativo, incluida la redacci\u00f3n de art\u00edculos acad\u00e9micos, una rutina de comedia stand-up o un soneto;  el dise\u00f1o de obras de arte a partir de un bloque de texto;  y en el caso de NovelAI, uno de los primeros clientes de CoreWeave, componiendo literatura.<\/p>\n<p>Por supuesto, puede comprobar lo que han hecho nuestros compa\u00f1eros en Tomshardware y ejecutar una alternativa de ChatGPT en su PC local.<\/p>\n<h2 id=\"xa0-nvidia-monopoly-xa0\"> Monopolio de Nvidia <\/h2>\n<p>Jensen Huang, fundador y director ejecutivo de NVIDIA, supervis\u00f3 el lanzamiento de una serie de GPU dirigidas a segmentos espec\u00edficos del mercado de contenido de IA en r\u00e1pida expansi\u00f3n: L4 para video de IA, L40 para generaci\u00f3n de im\u00e1genes y H100 NVL (b\u00e1sicamente dos H100 en un configuraci\u00f3n tipo SLI).  Nvidia, que cumplir\u00e1 30 a\u00f1os en abril de 2023, quiere capturar la mayor parte del mercado posible ofreciendo hardware y software con miras a implementar su propio hardware como servicio.<\/p>\n<p>ha desvelado un <u>versi\u00f3n en la nube de su DGX H100<\/u> servidor, uno que incluye ocho tarjetas H100 y se puede alquilar por poco menos de $ 37,000 de Oracle con Microsoft y Google pr\u00f3ximamente.  Aunque suene caro, tenga en cuenta que la DGX H100 cuesta m\u00e1s que <u>$500,000 del proveedor empresarial Insight<\/u>y eso excluye el costo de ejecutar realmente el dispositivo (mantenimiento, colocaci\u00f3n, servicios p\u00fablicos, etc.).<\/p>\n<p>Es probable que el repentino inter\u00e9s de Nvidia en convertirse en un proveedor de servicios propio haga que sus socios se sientan un poco inc\u00f3modos.  El <u>presidente de la TIEA<\/u> (Taiwan Internet and E-Commerce Association), que agrupa a algunos de los nombres m\u00e1s importantes en la industria del hardware tecnol\u00f3gico, fue lo suficientemente l\u00facido como para declarar ayer que la empresa \u00abincurrir\u00e1 en una competencia conjunta\u00bb con los principales proveedores de servicios en la nube (CSP), y probablemente acelerar\u00e1 la b\u00fasqueda de una alternativa a Nvidia, para establecer un equilibrio.<\/p>\n<p>Todos los ojos est\u00e1n puestos en AMD (con su GPU Instinct MI300) e Intel, pero al acecho en las sombras hay una lista de retadores (Graphcore, Cerebras, Kneron, IBM y otros) que querr\u00e1n una parte de un pastel en crecimiento.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-35<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Por un par de miles de d\u00f3lares al mes, ahora puede reservar la capacidad de una sola GPU Nvidia HGX H100 a trav\u00e9s de una empresa llamada CoreWeave. El H100&hellip;<\/p>\n","protected":false},"author":1,"featured_media":530346,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[11237,2668,65604,216,3051,507,1545,708,870,73],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/534572"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=534572"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/534572\/revisions"}],"predecessor-version":[{"id":534573,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/534572\/revisions\/534573"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/530346"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=534572"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=534572"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=534572"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}