Esto no es un consejo de inversión. El autor no tiene posición en ninguna de las acciones mencionadas. Wccftech.com tiene una política de divulgación y ética.

Justo después de conseguir una valoración de 18.000 millones de dólares en una nueva ronda de financiación, xAI se está preparando para gastar al menos el 50 por ciento de su patrimonio neto en las GPU de NVIDIA, según los últimos comentarios de Elon Musk.

Para beneficio de aquellos que tal vez no lo sepan, xAI recientemente recaudó $6 mil millones de dólares en una nueva ronda de financiación que valoró la empresa centrada en la IA de Elon Musk en $18 mil millones de dólares. Si bien el chatbot Grok es el único producto de xAI en este momento, la startup tiene la intención de expandir significativamente su cartera de productos relacionados con la IA aumentando sus inversiones en clústeres de GPU.

Esto no es exacto. Tesla sería el segundo más alto y X/xAI sería el tercero si se midiera correctamente.

– Elon Musk (@elonmusk) 8 de abril de 2024

En abril, la cuenta X «The Technology Brother» publicó que Meta de Mark Zuckerberg había acumulado una de las mayores reservas de GPU H100 del mundo, que ascendía a alrededor de 350.000 unidades. Musk, sin embargo, hizo una excepción con las clasificaciones de Tesla y xAI en esa tabulación, señalando que «Tesla sería el segundo más alto y X/xAI sería el tercero si se midiera correctamente».

Dado el ritmo de mejora de la tecnología, no vale la pena invertir 1 GW de energía en los H100.

El @xAI El grupo de capacitación de 100.000 H100 refrigerado por líquido estará en línea en unos meses.

El próximo gran paso probablemente sería ~300.000 B200 con conexión en red CX8 el próximo verano.

– Elon Musk (@elonmusk) 2 de junio de 2024

Hoy, hemos recibido algunas proyecciones sólidas de Elon Musk frente al próximo frenesí de compra de chips de xAI. A saber, en respuesta a una encuesta en línea, Elon Musk anunció que «el próximo gran paso de xAI probablemente sería ~300.000 B200 con conexión en red CX8 el próximo verano».

En marzo, el CEO de NVIDIA, Jensen Huang, reveló que las últimas GPU B200 de la compañía probablemente tendrían un precio de entre 30.000 y 40.000 dólares. Esto significa que xAI está a punto de gastar la friolera de 9 mil millones de dólares en la adquisición de alrededor de 300.000 unidades de la GPU B200, suponiendo que la compañía sea capaz de negociar un precio que se encuentre en el extremo más bajo del rango declarado por Huang.

Curiosamente, si xAI sigue adelante con los ambiciosos planes de Elon Musk, invertiría al menos la mitad de su valoración actual en la compra de GPU de NVIDIA durante los próximos meses.

Tenga en cuenta que los chips H100 de NVIDIA ahora están a punto de ceder el terreno proverbial al último superchip GB200 Grace Blackwell. El chip combina una CPU Grace basada en Arms con dos GPU Blackwell B100 y puede implementar un modelo de IA con 27 billones de parámetros. Además, se espera que el superchip sea 30 veces más rápido en tareas como entregar respuestas desde chatbots.

Elon Musk fundó xAI el verano pasadoy hoy anunció recaudar 6 mil millones de dólares en financiacióndiciendo que ayudará a llevar los «primeros productos de la startup al mercado, construir infraestructura avanzada y acelerar la investigación y el desarrollo de tecnologías futuras».

Hasta ahora, xAI ha lanzado Grok, un supuestamente más atrevido Versión de ChatGPT de OpenAI disponible a través de X, anteriormente conocido como Twitter, donde el chatbot actualmente solo está disponible para suscriptores de X Premium.

La financiación de esta ronda provino de varias fuentes, según xAI, incluidas Andreessen Horowitz, Sequoia Capital y el príncipe de Arabia Saudita Al Waleed bin Talal. El año pasado, una presentación ante la Comisión de Bolsa y Valores mostró que xAI estaba buscando recaudar hasta mil millones de dólares en inversiones de capital, y hace unos meses, El tiempo financiero informó que estaba buscando hasta… $6 mil millones. Almizcle negó ese informe en su momento.

Continuar en la carrera de la IA por chips, talento y tecnología no será barato: las grandes empresas tecnológicas han invertido miles de millones en nuevas empresas de IA como antrópico además de los recursos Google, Manzana, Amazonas, microsofty Meta están invirtiendo en proyectos propios de IA.

Fuera de xAI y OpenAI, Musk dijo que «preferiría construir productos fuera de Tesla» en lo que respecta a IA y robótica, a menos que obtenga más control. Los accionistas de Tesla empieza a votar esta semana sobre si restaurar El paquete salarial de 56 mil millones de dólares de Musk antes de su reunión anual el 13 de junio.

Esto no es un consejo de inversión. El autor no tiene posición en ninguna de las acciones mencionadas. Wccftech.com tiene una política de divulgación y ética.

xAI de Elon Musk anunció hoy una ronda de financiación de 6.000 millones de dólares en la que participaron inversores de Oriente Medio y Occidente. El producto principal de xAI es su chatbot Grok, que ha buscado diferenciarse de otros chatbots como Bard de Google y ChatGPT de OpenAI. Según xAI, los fondos de la última ronda se utilizarán para ampliar su capacidad de IA a través de inversiones en infraestructura y desarrollar sistemas que sean «Máximo beneficio para toda la humanidad.«.

xAI avanza para establecerse en una industria de software de IA saturada

Desde que ChatGPT se lanzó públicamente y los usuarios quedaron impresionados con su capacidad para generar respuestas realistas, otros chatbots de IA también se han vuelto activos. Dos de los más conocidos son Bard de Google y Grok de Musk. Grok ya se ha implementado para los usuarios premium de la plataforma de redes sociales X de Musk y permite a los usuarios enviar una amplia variedad de consultas.

Musk compartió detalles de la última ronda y agregó que la valoración previa al dinero de xAI fue de 18 mil millones de dólares para su última ronda de financiación. ChatGPT de OpenAI y la turbulencia resultante en la empresa han significado que la industria se haya vuelto bastante controvertida. A lo largo de este mes, OpenAI ha tenido que defenderse de la controversia en torno a los contratos de sus empleados, y ex miembros de la junta también comentaron sobre los procesos de la empresa.

Musk pretende crear un modelo de IA diferente con xAI permitiendo a Grok ofrecer respuestas que sean capaces de sorprender a los usuarios. Comparte regularmente la producción de Grok en su página X, que es una de las cuentas de redes sociales más seguidas en el mundo.

Siendo el emprendedor en serie que es, Musk trabaja con varias empresas simultáneamente. Sus dos empresas más exitosas hasta el momento son SpaceX y Tesla, y el multimillonario también se interesa por el día a día de X (antes Twitter), la empresa de excavaciones industriales Boring, la empresa de dispositivos médicos Neuralink y xAI.

El interés de Musk por xAI ha sido personal debido a su fascinación por la tecnología desde pequeño. El objetivo general de las empresas de IA es desarrollar modelos avanzados llamados modelos de inteligencia artificial general (AGI). Se presume que poseen inteligencia, capacidad de toma de decisiones y razonamiento a nivel humano.

El sitio web de xAI se lanzó el año pasado y la empresa también ha visto a Musk hacer algunas de sus declaraciones más controvertidas hasta la fecha. Ha sido uno de los más firmes defensores de la seguridad de la IA y compartió algunas ideas sobre xAI en un espacio X el año pasado.

En aquel entonces, Musk se centró en los desafíos que rodean el desarrollo de AGI. Usó paralelismos con su experiencia en Tesla y destacó que, si bien crear AGI puede parecer difícil en este momento, en retrospectiva, podría parecer fácil. Comprender los fundamentos de AGI sería crucial txAI’oo, destacó Musk, una aplicación de su proceso de pensamiento que ha visto a SpaceX y Tesla liderar sus industrias en la reutilización de cohetes y la producción en masa de vehículos eléctricos.

El objetivo de xAI es desarrollar «Sistemas de IA avanzados que son veraces, competentes y máximamente beneficiosos para toda la humanidad.«, se lee en el comunicado. Algunos inversores bien conocidos que formaron parte de la última ronda de financiación incluyen a Fidelity, Sequoia y un holding saudí liderado por el príncipe Alwaleed Bin Talal.

Elon Musk dijo a los inversores este mes que su startup xAI planea construir una supercomputadora para el otoño de 2025 que impulsaría una versión futura y más inteligente de su chatbot Grok. La información informes. Esta supercomputadora, a la que Musk supuestamente se refirió como una “gigafábrica de computación”, dependería de decenas de miles de GPU NVIDIA H100 y su construcción costaría miles de millones de dólares. Musk ha dicho anteriormente que la tercera versión de Grok requerirá al menos 100.000 chips, cinco veces más que las 20.000 GPU que se dice que se utilizan para entrenar Grok 2.0.

De acuerdo a La información, Musk también dijo a los inversores en la presentación que el grupo de GPU planificado sería al menos cuatro veces el tamaño de cualquier cosa utilizada hoy por los competidores de xAI. Grok se encuentra actualmente en la versión 1.5, que se lanzó en abril, y ahora se promociona para procesar información visual como fotografías y diagramas, además de texto. X a principios de este mes comenzó a implementar resúmenes de noticias generados por IA con tecnología de Grok para usuarios premium.

Comenzamos la semana con mucha IA. OpenAI tiene un nuevo acuerdo con el Financial Times que nos llamó la atención. Claro, es otro acuerdo de licencia de contenido, pero parece haber algo más en la relación que solo el contenido fluye en una dirección y el dinero en la otra.

También profundizamos en las noticias de xAI que TechCrunch publicó recientemente: la empresa de inteligencia artificial de Musk no busca recaudar $ 3 mil millones sobre una valoración de $ 15 mil millones. No, ahora busca 6 mil millones de dólares con una valoración de 18 mil millones de dólares. Eso es un lote de capital.

Había aún más de qué hablar, incluida la UE que le dio a Apple aún más malas noticias al colocar iPadOS bajo sus reglas DMA. Eso debería obligar a la aceptación de tiendas de aplicaciones de terceros en la línea de tabletas de Apple a tiempo. Y Tesla recibió buenas noticias en China, aunque no se sabe con certeza qué tan impactantes serán en este momento.

Y para finalizar, The New York Times ofrece una mirada fascinante a la rapidez con la que los capitalistas de riesgo están invirtiendo dinero en nuevas empresas de IA. Dada la capacidad de OpenAI para conseguir grandes acuerdos con el dinero de Microsoft, me pregunto si es suficiente.

TechCrunch recientemente dio la noticia de que xAI de Elon Musk está recaudando 6 mil millones de dólares con una valoración previa al dinero de 18 mil millones de dólares.

El trato aún no se ha cerrado, por lo que las cifras podrían cambiar. Pero parece que Musk está haciendo un discurso ambicioso a los inversores sobre su startup de 10 meses, un rival de OpenAI, que también cofundó y que actualmente está demandando por supuestamente abandonar su compromiso inicial de centrarse en el bien de la humanidad durante más tiempo. ganancia.

Quizás se pregunte: ¿Musk no tiene ya suficientes empresas? Están Tesla, SpaceX, X (anteriormente Twitter), Neuralink, The Boring Company… tal vez debería dedicar su tiempo a las empresas existentes que tienen sus propios problemas.

Pero en el discurso de xAI, la conexión de Musk con estas otras empresas es una característica, no un error. xAI podría obtener acceso a datos de entrenamiento cruciales de todo su imperio y su tecnología podría, a su vez, ayudar a Tesla a lograr su sueño de tener verdaderos autos autónomos y llevar su robot humanoide Optimus a las fábricas.

Por supuesto, las exageraciones de Musk no siempre coinciden con la realidad. Pero con esta impresionante nueva financiación, xAI podría convertirse en un competidor aún más formidable en el mundo de la IA. ¡Dale al play y luego deja tus pensamientos a continuación!

xAI, el competidor de Elon Musk desde hace 10 meses del fenómeno de la IA OpenAI, está recaudando 6.000 millones de dólares sobre una valoración previa al dinero de 18.000 millones de dólares, según una fuente confiable cercana al acuerdo. Se espera que el acuerdo, que daría a los inversores una cuarta parte de la empresa, se cierre en las próximas semanas a menos que cambien los términos del acuerdo.

Los términos del acuerdo ya han cambiado una vez. El fin de semana pasado, Jared Birchall, que dirige la oficina familiar de Musk, les decía a los posibles inversores que xAI estaba recaudando 3.000 millones de dólares con una valoración previa al dinero de 15.000 millones de dólares. Dada la cantidad de inversores que clamaban por cerrar el trato, esas cifras se ajustaron rápidamente.

Nuestra fuente dice: «Todos recibimos un correo electrónico que básicamente decía: ‘Ahora son $6 mil millones sobre $18 mil millones, y no se quejen porque muchas otras personas quieren participar».

A los inversores que han estado presionando para cerrar el trato durante meses no les importó. Sequoia Capital y Future Ventures, el fondo de riesgo cofundado por el viejo amigo de Musk, Steve Jurvetson, participan en la ronda.

Es probable que otros participantes incluyan Valor Equity Partners y Gigafund, cuyos fundadores también son parte del círculo íntimo de Musk, quien es famoso por combinar lo personal y lo privado. (La comunicación con estos inversores no obtuvo resultados; xAI no tiene una función de prensa).

Jurvetson forma parte de la junta directiva de SpaceX y fue director de Tesla hasta 2020. El cofundador de Gigafund, Luke Nosek, quien anteriormente cofundó Founders Fund con el inversor Peter Thiel, fue el primer inversor de riesgo en emitir un cheque a SpaceX y ha formado parte de su junta directiva desde entonces. El fundador de Valor, Antonio Gracias, estuvo entre los primeros inversores en Tesla; Al igual que Jurveston, es ex director de Tesla y también forma parte de la junta directiva de SpaceX.

Nuestra fuente dijo que no está del todo claro para todos los demás inversores quién está en el acuerdo debido a la forma en que se obtuvieron los compromisos. “Es una llamada de Zoom y solo estáis tú, Elon y Jared. [on the other side] en una mesa con algunos ingenieros”.

El tono, dice este individuo, es cautivador.

La literatura de marketing de xAI ya deja claro que la ambición del equipo es conectar los mundos digital y físico, pero puede que no se entienda ampliamente que Musk planea hacerlo obteniendo datos de entrenamiento de cada una de sus empresas, que incluyen Tesla, SpaceX, su la empresa de túneles Boring Company y Neuralink, que desarrolla interfaces informáticas que pueden implantarse en cerebros humanos.

Por supuesto, otra de las empresas de Musk es X. La plataforma de redes sociales ya ha incorporado a la plataforma el chatbot de xAI, Grok, de meses de antigüedad, como complemento pago. Sin embargo, eso es sólo una parte de lo que Musk les dice a los inversores que se convertirá en un ciclo virtual en expansión.

Con Grok, por ejemplo, X es al mismo tiempo un cliente y proporciona a Grok una distribución masiva. Con el tiempo (dice el discurso), Grok recibirá datos de otras compañías de Musk, lo que le ayudará a dominar el mundo físico de maneras potencialmente infinitas, comenzando con autos verdaderamente autónomos.

Otro posible beneficiario sería el robot humanoide de Tesla, Optimus. Hoy en día, el robot Tesla todavía está en el laboratorio, pero Musk dijo a los analistas en una llamada telefónica a principios de esta semana que Optimus podrá realizar tareas en las fábricas de Tesla a finales de este año. Incluso si ese cronograma resulta ambicioso, estos hábiles asistentes pueden hacer más (y más rápido de lo que se imaginaba anteriormente) si la visión general de Musk se cumple.

Mientras tanto, el beneficiario más inmediato del creciente impulso de xAI puede ser el propio X. Aunque la plataforma se ha convertido en una especie de pozo negro tóxico en los años y medio transcurridos desde que Musk la compró y posteriormente perdió gran parte de su valor, Musk ya se había encargado de que X posea una participación en xAI, por lo que se beneficiará de cualquier ventaja del equipo de IA. ve.

Lo que todo esto significa para OpenAI, que el año pasado se convirtió en la startup de más rápido crecimiento de la historia, es una pregunta abierta. Musk ha tenido a OpenAI en su punto de mira desde que comenzó el auge de la compañía, tras el lanzamiento de su chatbot ChatGPT.

Musk cofundó OpenAI en 2015 y dejó su junta directiva en 2018 por desacuerdos sobre la dirección del equipo, que comenzó como una organización sin fines de lucro y luego evolucionó hasta convertirse en una entidad con fines de lucro. Desde entonces, Musk ha arengado públicamente al cofundador de OpenAI, Sam Altman, y se ha burlado de la marca, proponiendo que en su lugar se llame a sí misma. CerradoAI.

El mes pasado, cuando Musk abrió la arquitectura del primer chatbot de xAI, “Grok-1”, lo que significa que ahora cualquiera puede descargarlo y modificarlo, la medida fue otra parte de su campaña en curso para distinguir sus esfuerzos de OpenAI, que no ha compartido su salsa secreta con el mundo, y que Musk ahora está demandando.

xAI, el competidor de OpenAI fundado por Elon Musk, ha presentado la primera versión de Grok que puede procesar información visual. Grok-1.5V es el modelo de IA multimodal de primera generación de la compañía, que no solo procesa texto, sino también «documentos, diagramas, cuadros, capturas de pantalla y fotografías». En el anuncio de xAI, dio algunas muestras de cómo se pueden utilizar sus capacidades en el mundo real. Puedes, por ejemplo, mostrarle una foto de un diagrama de flujo y pedirle a Grok que la traduzca al código Python, hacer que escriba una historia basada en un dibujo e incluso hacer que explique un meme que no puedes entender. Oye, no todo el mundo puede estar al día con todo lo que Internet escupe.

La nueva versión llega apenas un par de semanas después de que la compañía presentara Grok-1.5. Ese modelo fue diseñado para ser mejor en codificación y matemáticas que su predecesor, así como para poder procesar contextos más largos para poder verificar datos de más fuentes para comprender mejor ciertas consultas. xAI dijo que sus primeros probadores y usuarios existentes pronto podrán disfrutar de las capacidades de Grok-1.5V, aunque no dio un cronograma exacto para su lanzamiento.

Además de presentar Grok-1.5V, la compañía también lanzó un conjunto de datos de referencia al que llama RealWorldQA. Puede utilizar cualquiera de las 700 imágenes de RealWorldQA para evaluar modelos de IA: cada elemento viene con preguntas y respuestas que puede verificar fácilmente, pero que pueden dejar perplejos a los modelos multimodales como Grok. xAI afirmó que su tecnología recibió la puntuación más alta cuando la empresa la probó con RealWorldQA frente a competidores, como GPT-4V de OpenAI y Google Gemini Pro 1.5.

Esto no es un consejo de inversión. El autor no tiene posición en ninguna de las acciones mencionadas. Wccftech.com tiene una política de divulgación y ética.

Tesla y la empresa centrada en inteligencia artificial de Elon Musk, xAI, han establecido colectivamente un alijo considerable de GPU H100 de NVIDIA, mientras el primero se esfuerza por resolver para siempre el enigma de la conducción autónoma de Nivel 5, mientras que el segundo intenta hacer realidad la visión de Musk de un «máximo IA que busca la verdad».

Esto no es exacto. Tesla sería el segundo más alto y X/xAI sería el tercero si se midiera correctamente.

– Elon Musk (@elonmusk) 8 de abril de 2024

La cuenta X «The Technology Brother» publicó recientemente que Meta de Mark Zuckerberg ha acumulado una de las mayores reservas de GPU H100 del mundo, que asciende a alrededor de 350.000 unidades. Musk, sin embargo, hizo una excepción con las clasificaciones de Tesla y xAI en esa tabulación, señalando que «Tesla sería el segundo más alto y X/xAI sería el tercero si se midiera correctamente».

NOTICIAS: Elon afirma que X/xAI tiene entre 26 y 30 mil H100 de Nvidia.

Tesla tiene entre 30 y 350 mil H100 https://t.co/VPlhCWY5vU pic.twitter.com/IBL8IbJKJv

– X Noticias diarias (@xDaily) 8 de abril de 2024

Suponiendo que todo lo demás permanezca constante, esto significa que Tesla ahora posee entre 30.000 y 350.000 unidades de GPU H100 de NVIDIA. Por otro lado, es probable que xAI posea ahora entre 26.000 y 30.000 unidades de tarjetas gráficas de NVIDIA centradas en la IA.

En enero, mientras confirmaba una nueva inversión de 500 millones de dólares en el superordenador Dojo de Tesla, equivalente a unas 10.000 unidades de la GPU H100, Elon Musk Anunciado que el gigante de los vehículos eléctricos «gastaría más que eso en hardware NVIDIA este año», ya que «lo que está en juego para ser competitivo en IA» era «al menos varios miles de millones de dólares por año en este momento».

Tenga en cuenta que xAI había comprado alrededor de 10.000 unidades de GPU de NVIDIA en 2023, ya que Musk contrató talentos de DeepMind, OpenAI, Google Research, Microsoft Research, Tesla y la Universidad de Toronto para construir su empresa de inteligencia artificial desde cero. Sin embargo, se puede deducir razonablemente que esas compras probablemente estaban relacionadas con las GPU A100. Desde entonces, como se puede inferir de la última publicación X de Musk, parece que xAI también ha acumulado una cantidad considerable de GPU H100.

Por supuesto, dado el ritmo de la innovación en el mundo de la IA, esas GPU H100 se están volviendo obsoletas rápidamente. En marzo, NVIDIA anunció su superchip GB200 Grace Blackwell, que combina una CPU Grace basada en Arms con dos GPU Blackwell B100. El sistema puede implementar un modelo de IA con 27 billones de parámetros y se espera que sea 30 veces más rápido en tareas como entregar respuestas desde chatbots.

El domingo, la firma de inteligencia artificial xAI de Elon Musk lanzó los pesos del modelo base y la arquitectura de red de Grok-1, un modelo de lenguaje grande diseñado para competir con los modelos que impulsan ChatGPT de OpenAI. El lanzamiento de pesos abiertos a través de GitHub y BitTorrent se produce mientras Musk continúa criticando (y demandando) a su rival OpenAI por no lanzar sus modelos de IA de manera abierta.

Anunciado en noviembre, Grok es un asistente de inteligencia artificial similar a ChatGPT que está disponible para los suscriptores de X Premium+ que pagan $16 al mes a la plataforma de redes sociales anteriormente conocida como Twitter. En su núcleo se encuentra un LLM compuesto por una mezcla de expertos llamado «Grok-1», que registra 314 mil millones de parámetros. Como referencia, GPT-3 incluía 175 mil millones de parámetros. El recuento de parámetros es una medida aproximada de la complejidad de un modelo de IA y refleja su potencial para generar respuestas más útiles.

xAI está lanzando el modelo base de Grok-1, que no está ajustado para una tarea específica, por lo que probablemente no sea el mismo modelo que X usa para impulsar su asistente Grok AI. «Este es el punto de control del modelo base en bruto de la fase de preentrenamiento de Grok-1, que concluyó en octubre de 2023», escribe xAI en su página de lanzamiento. «Esto significa que el modelo no está ajustado para ninguna aplicación específica, como el diálogo», lo que significa que no necesariamente se presenta como un chatbot. Pero hará una predicción del siguiente token, lo que significa que completará una oración (u otro mensaje de texto) con su estimación de la cadena de texto más relevante.

«No es un modelo adaptado a instrucciones», dice el investigador de IA Simon Willison, que habló con Ars por mensaje de texto. «Lo que significa que se necesita un trabajo adicional sustancial para llegar al punto en el que pueda operar en un contexto conversacional. Será interesante ver si alguien externo a xAI con las habilidades y la capacidad de cómputo pone ese trabajo».

Musk anunció inicialmente que Grok se lanzaría como «código abierto» (más sobre esa terminología a continuación) en un tweet publicado el lunes pasado. El anuncio se produjo después de que Musk demandara a OpenAI y sus ejecutivos, acusándolos de priorizar las ganancias sobre los lanzamientos de modelos abiertos de IA. Musk fue cofundador de OpenAI pero ya no está asociado con la compañía, pero regularmente incita a OpenAI a lanzar sus modelos como código abierto o pesos abiertos, como muchos creen que el nombre de la compañía sugiere que debería hacer.

El 5 de marzo, OpenAI respondió a las acusaciones de Musk revelando correos electrónicos antiguos que parecían sugerir que Musk alguna vez estuvo de acuerdo con el cambio de OpenAI a un modelo de negocio con fines de lucro a través de una subsidiaria. OpenAI también dijo que la palabra «abierto» en su nombre sugiere que sus productos resultantes estarían disponibles para el beneficio de todos en lugar de ser un enfoque de código abierto. Ese mismo día, Musk tuiteó (dividido en dos tuits): «Cambie su nombre a ClosedAI y retiraré la demanda». Su anuncio de liberar abiertamente a Grok se produjo cinco días después.

Grok-1: un modelo robusto

Así que Grok-1 ya está disponible, pero ¿alguien puede ejecutarlo? xAI ha publicado los pesos del modelo base y la arquitectura de red bajo la licencia Apache 2.0. El código de inferencia está disponible para descargar en GitHub y los pesos se pueden obtener a través de un enlace Torrent que figura en la página de GitHub.

Con un tamaño de punto de control de pesos de 296 GB, es probable que solo el hardware de inferencia de clase de centro de datos tenga la RAM y la potencia de procesamiento necesarias para cargar todo el modelo a la vez (a modo de comparación, el archivo de pesos más grande de Llama 2, un modelo 70B de precisión de 16 bits , tiene un tamaño de alrededor de 140 GB).

Hasta ahora, no hemos visto a nadie ejecutarlo localmente todavía, pero hemos escuchado informes de que hay personas trabajando en un modelo cuantificado que reducirá su tamaño para que pueda ejecutarse en hardware GPU de consumo (al hacer esto, también se reducirá drásticamente su procesamiento). capacidad, sin embargo).

Willison confirmó nuestras sospechas diciendo: «Es difícil evaluar [Grok-1] ahora mismo porque es muy grande—un [massive] archivo torrent, y luego necesitas un conjunto completo de costosas GPU para ejecutarlo. Es posible que en las próximas semanas haya versiones cuantizadas producidas por la comunidad que tengan un tamaño más práctico, pero si no es al menos competitiva en calidad con Mixtral, es difícil entusiasmarse demasiado con ello».

Apropiadamente, xAI no llama al debut de Grok-1 en GitHub una versión de «código abierto» porque ese término tiene un significado específico en software, y la industria aún no se ha decidido por un término para las versiones de modelos de IA que incluyen código y pesos con restricciones ( como Meta’s Llama 2) o enviar códigos y pesos sin publicar también datos de entrenamiento, lo que significa que otros no pueden replicar el proceso de entrenamiento del modelo de IA. Por lo tanto, normalmente llamamos a estas versiones «fuente disponible» o «pesos abiertos».

«Lo más interesante es que tiene una licencia Apache 2», afirma Willison. «Ninguna de las licencias no del todo compatibles con OSI se utiliza para modelos como Llama 2, y es uno de los modelos de peso abierto más grandes que se haya lanzado hasta ahora».