La startup de IA de Elon Musk, X.ai, ha revelado su último modelo de IA generativa, Grok-1.5. Listo para impulsar el chatbot Grok de la red social X en un futuro no muy lejano (“en los próximos días”, según una publicación de blog), Grok-1.5 parece ser una mejora mensurable con respecto a su predecesor, Grok-1, al menos a juzgar. según los resultados de referencia y las especificaciones publicados.
Grok-1.5 se beneficia de un «razonamiento mejorado», según X.ai, particularmente en lo que respecta a codificación y tareas relacionadas con las matemáticas. El modelo duplicó con creces la puntuación de Grok-1 en un popular punto de referencia de matemáticas, MATH, y obtuvo una puntuación más de 10 puntos porcentuales más alta en la prueba HumanEval de generación de lenguajes de programación y habilidades de resolución de problemas.
Es difícil predecir cómo se traducirán esos resultados en el uso real. Como escribimos recientemente, los puntos de referencia de IA de uso común, que miden cosas tan esotéricas como el desempeño en preguntas de exámenes de química a nivel de posgrado, no logran capturar cómo la persona promedio interactúa con los modelos en la actualidad.
Una mejora que debería Lo que conduce a ganancias observables es la cantidad de contexto que Grok-1.5 puede comprender en comparación con Grok-1.
Grok-1.5 puede procesar contextos de hasta 128.000 tokens. Aquí, «tokens» se refiere a fragmentos de texto sin formato (por ejemplo, la palabra «fantástico» dividida en «fan», «tas» y «tic»). El contexto, o ventana de contexto, se refiere a los datos de entrada (en este caso, texto) que un modelo considera antes de generar resultados (más texto). Los modelos con ventanas de contexto pequeñas tienden a olvidar el contenido incluso de conversaciones muy recientes, mientras que los modelos con contextos más grandes evitan este problema y, como beneficio adicional, captan mejor el flujo de datos que reciben.
“[Grok-1.5 can] utilizar información de documentos sustancialmente más largos”, escribe X.ai en la publicación del blog. «Además, el modelo puede manejar indicaciones más largas y complejas y al mismo tiempo mantener su capacidad de seguir instrucciones a medida que se expande su ventana de contexto».
Lo que históricamente distingue a los modelos Grok de X.ai de otros modelos de IA generativa es que responden a preguntas sobre temas que normalmente están fuera del alcance de otros modelos, como conspiraciones e ideas políticas más controvertidas. Los modelos también responden a las preguntas con “una vena rebelde”, como lo ha descrito Musk, y con un lenguaje francamente grosero si se les pide que lo hagan.
No está claro qué cambios, si los hay, trae Grok-1.5 en estas áreas. X.ai no alude a esto en la publicación del blog.
Grok-1.5 pronto estará disponible para los primeros usuarios de X, acompañado de «varias características nuevas». Musk ha insinuado previamente que resumirá los hilos y las respuestas, y sugerirá contenido para las publicaciones; Veremos si llegan lo suficientemente pronto.
El anuncio se produce después de que X.ai liberara Grok-1, aunque sin el código necesario para perfeccionarlo o entrenarlo aún más. Más recientemente, Musk dijo que más usuarios de X, específicamente aquellos que pagan el plan Premium de X de $8 por mes, obtendrían acceso al chatbot Grok, que anteriormente solo estaba disponible para los clientes de X Premium+ (que pagan $16 por mes).