Anthropic, rival de OpenAI, lanzó Claude 2.1 hoy. La última versión del rival ChatGPT aumenta su ventana contextual a 200.000 tokens, lo que le permite pegar la totalidad de Homer. La odisea para análisis de IA. (Los tokens son fragmentos de texto que utiliza para organizar información, y una ventana de contexto es el límite establecido de tokens que puede analizar en una sola solicitud). La compañía dijo que la versión 2.1 también reduce a la mitad la tasa de alucinaciones de Claude, lo que lleva a menos respuestas erróneas (como esas el abogado de ChatGPT confiaba demasiado). Coincidentemente o no, la actualización llega mientras el mundo tecnológico observa cómo el rival de Anthropic, OpenAI, se hunde en el caos.
La compañía dice que la ventana contextual de 200.000 tokens de Claude 2.1 permite a los usuarios cargar bases de código completas, artículos académicos, estados financieros u obras literarias extensas. (Anthropic dice que 200.000 tokens se traducen aproximadamente en 150.000 palabras o más de 500 páginas de material). Después de cargar el material, el chatbot puede proporcionar resúmenes, responder preguntas específicas sobre su contenido, comparar/contrastar múltiples documentos o reconocer patrones que a los humanos les pueden resultar más difíciles. vidente.
«Procesar un mensaje de 200 000 de longitud es una hazaña compleja y una primicia en la industria», escribió la compañía en una publicación de blog de anuncio. “Si bien estamos entusiasmados de poner esta nueva y poderosa capacidad en manos de nuestros usuarios, las tareas que normalmente requerirían horas de esfuerzo humano para completarse pueden llevarle a Claude unos minutos. Esperamos que la latencia disminuya sustancialmente a medida que avanza la tecnología”.
Anthropic advierte que analizar y responder a entradas extremadamente largas podría llevar al robot de IA unos minutos en completarse, mucho más que los segundos que normalmente tenemos que esperar para consultas más simples. «Esperamos que la latencia disminuya sustancialmente a medida que avanza la tecnología», escribió la compañía.
Las alucinaciones, o la información inexacta, todavía prevalecen en esta generación de chatbots de IA. Sin embargo, Anthropic dice que Claude 2.1 ha reducido su tasa de alucinaciones a la mitad en comparación con Claude 2.0. La compañía atribuye parte del progreso a una capacidad mejorada para separar las afirmaciones incorrectas de las admisiones de incertidumbre, lo que hace que Claude 2.1 tenga aproximadamente el doble de probabilidades de admitir que no sabe una respuesta en lugar de proporcionar una respuesta incorrecta.
Anthropic dice que Claude 2.1 también comete un 30 por ciento menos de errores en documentos extremadamente largos. Además, tiene una tasa de tres a cuatro veces menor de «concluir erróneamente que un documento respalda una afirmación particular» cuando se utilizan ventanas de contexto más sólidas.
El bot actualizado también agrega algunas ventajas específicas para los desarrolladores. Una nueva consola Workbench permite a los desarrolladores perfeccionar las indicaciones «en una experiencia estilo patio de recreo y acceder a nuevas configuraciones del modelo para optimizar el comportamiento de Claude». Por ejemplo, permite a los usuarios probar múltiples indicaciones y acceder al código base de Claude para generar fragmentos para SDK. Otra nueva característica beta para desarrolladores, el «uso de herramientas», permite a Claude «integrarse con los procesos, productos y API existentes de los usuarios». La compañía cita ejemplos como usar una calculadora para ecuaciones complejas, traducir lenguaje sencillo a llamadas API estructuradas, usar una API de búsqueda web, acceder a las API privadas de los clientes o conectarse a conjuntos de datos de productos. La compañía advierte que la función de uso de la herramienta se encuentra en desarrollo inicial e insta a los clientes a enviar comentarios.