La semana pasada, Elon Musk voló al Reino Unido para exagerar el riesgo existencial que plantea la inteligencia artificial. Un par de días después, él Anunciado que su última empresa, xAI, había desarrollado una IA poderosa, una con menos barreras que la competencia.
El modelo de IA, llamado Grok (un nombre que significa “comprender” en los círculos tecnológicos), “está diseñado para responder preguntas con un poco de ingenio y tiene una vena rebelde, ¡así que no lo uses si odias el humor!” lee un anuncio en el sitio web de la empresa. «También responderá preguntas interesantes que son rechazadas por la mayoría de los demás sistemas de IA».
El anuncio no explica qué significa «picante» o «rebelde», pero la mayoría de los modelos comerciales de IA se negarán a generar contenido sexualmente explícito, violento o ilegal, y están diseñados para evitar expresar sesgos recogidos en sus datos de entrenamiento. Sin tales barreras, la preocupación es que un modelo de IA podría ayudar a los terroristas a desarrollar una bomba o podría dar como resultado productos que discriminen a los usuarios por características como raza, género o edad.
xAI no incluye ninguna información de contacto en su sitio web y los correos electrónicos enviados a direcciones comunes se devuelven. Un correo electrónico enviado a la dirección de prensa de X recibió una respuesta automática que decía: «Ocupado ahora, vuelva a consultar más tarde».
El anuncio de xAI dice que Grok está construido sobre un modelo de lenguaje llamado Grok-1 que tiene 33 mil millones de parámetros. La compañía dice que desarrolló Grok en dos meses, un período de tiempo relativamente corto para los estándares de la industria, y también afirma que una ventaja fundamental es su «conocimiento del mundo en tiempo real a través de la plataforma X», o la plataforma antes conocida como Twitter. , que Musk adquirió por 44.000 millones de dólares en 2022.
Stella Biderman, investigadora de inteligencia artificial de EleutherAI, una empresa de inteligencia artificial de código abierto, dice que las afirmaciones hechas en el anuncio de xAI parecen plausibles. Biderman sugiere que Grok utilizará lo que se conoce como “generación aumentada de recuperación” para agregar información actualizada de X a su producción. Otros modelos de lenguaje de vanguardia hacen esto utilizando los resultados de los motores de búsqueda y otra información.
Los modelos de lenguajes grandes han demostrado ser increíblemente capaces durante el último año, como lo destaca el innovador chatbot de OpenAI, ChatGPT.
Estos modelos se alimentan de grandes cantidades de texto extraído de libros y de la web, y luego generan texto en respuesta a un mensaje. Por lo general, también reciben capacitación adicional por parte de humanos para que sean menos propensos a producir resultados ofensivos, groseros o peligrosos, y para que sean más propensos a responder preguntas de manera que parezcan coherentes y plausiblemente correctas, aunque todavía son propensos a cometer errores. y prejuicios.