Anthropic dice que ha ampliado enormemente la cantidad de información que su IA generativa, Claude, puede procesar. Claude ha pasado de tener un límite de 9000 tokens a 100 000 tokens, lo que corresponde a aproximadamente 75 000 palabras. Esa es una novela completa. Para poner eso en perspectiva, Claude ahora tiene la capacidad de leer y terminar fácilmente el libro de Ernest Hemingway. Adiós a las armas (74.240 palabras), de Mary Shelley frankenstein (74.800 palabras) y Mark Twain’s Las aventuras de Tom Sawyer (69.000 palabras). Y como el borde notas, la compañía dice que Claude puede leer y analizar la información de cada libro en menos de un minuto.
Las IA generativas como Claude todavía están limitadas por la cantidad de «tokens» que pueden procesar. Como explica OpenAI en su página de ayuda, puede pensar en los tokens como piezas de palabras. La IA corta las palabras para su procesamiento, y no siempre se cortan desde el principio hasta el final de cada palabra, ya que también se incluyen espacios y otros caracteres. Por el momento, el modelo GPT-4 estándar de OpenAI es capaz de procesar 8.000 tokens, mientras que una versión extendida puede procesar 32.000 tokens. Mientras tanto, su chatbot ChatGPT disponible públicamente tiene un límite de alrededor de 4000 tokens.
Ahora Claude tiene una ventana de contexto mucho más amplia que todos ellos. Según Anthropic, cargó Gran Gatsby en la IA durante las pruebas y modificó una sola línea para decir que el Sr. Carraway era «un ingeniero de software que trabaja en herramientas de aprendizaje automático en Anthropic». Claude pudo detectar cómo se modificó el libro en 22 segundos.
La ventana de contexto ampliada de la IA ahora está disponible para los socios comerciales de Anthropic que utilizan su API. Anthropic dice que la capacidad ayudará a las empresas a digerir y resumir rápidamente estados financieros extensos y documentos de investigación, evaluar leyes, identificar riesgos y argumentos en documentos legales y analizar la densa documentación del desarrollador, entre otras tareas posibles.