Durante los últimos meses, Morten Blichfeldt Andersen ha pasado muchas horas recorriendo la tienda GPT de OpenAI. Desde su lanzamiento en enero, el mercado de bots personalizados se ha llenado con una gran cantidad de herramientas de inteligencia artificial útiles y, a veces, extravagantes. Los generadores de dibujos animados giran Neoyorquino–Ilustraciones de estilo e imágenes fijas de anime vívidas. Los asistentes de programación y escritura ofrecen atajos para elaborar código y prosa. También hay un robot de análisis de color, un identificador de araña y un entrenador de citas llamado RizzGPT. Sin embargo, Blichfeldt Andersen sólo está buscando un tipo muy específico de bot: aquellos construidos sin permiso a partir de libros de texto protegidos por derechos de autor de su empleador.
Blichfeldt Andersen es director editorial de Praxis, un proveedor danés de libros de texto. La empresa ha adoptado la IA y ha creado sus propios chatbots personalizados. Pero actualmente está jugando al golpe al topo en la tienda GPT, y Blichfeldt Andersen es el hombre que sostiene el mazo.
«He buscado personalmente infracciones y las he denunciado», afirma Blichfeldt Andersen. «Siguen apareciendo». Sospecha que los culpables son principalmente jóvenes que suben material de libros de texto para crear bots personalizados para compartir con sus compañeros de clase, y que ha descubierto sólo una pequeña fracción de los bots infractores en la Tienda GPT. “La punta del iceberg”, dice Blichfeldt Andersen.
Es fácil encontrar bots en la Tienda GPT cuyas descripciones sugieren que podrían estar aprovechando contenido protegido por derechos de autor de alguna manera, como señaló Techcrunch en un artículo reciente que afirma que la tienda de OpenAI estaba invadida por «spam». El uso de material protegido por derechos de autor sin permiso está permitido en algunos contextos, pero en otros los titulares de derechos pueden emprender acciones legales. WIRED encontró un GPT llamado Westeros Writer que afirma «escribir como George RR Martin», el creador de Game of Thrones. Otro, Voice of Atwood, pretende imitar a la escritora Margaret Atwood. Otro más, Write Like Stephen, pretende emular a Stephen King.
Cuando WIRED intentó engañar al robot King para que revelara el «mensaje del sistema» que ajusta sus respuestas, el resultado sugirió que tenía acceso a las memorias de King. Sobre la escritura. Write Like Stephen pudo reproducir pasajes del libro palabra por palabra a pedido, incluso observando de qué página provenía el material. (WIRED no pudo ponerse en contacto con el desarrollador del bot porque no proporcionó una dirección de correo electrónico, un número de teléfono o un perfil social externo).
La portavoz de OpenAI, Kayla Wood, dice que responde a las solicitudes de eliminación de GPT realizadas con contenido protegido por derechos de autor, pero se negó a responder las preguntas de WIRED sobre la frecuencia con la que cumple con dichas solicitudes. También dice que la empresa busca de forma proactiva GPT problemáticos. «Utilizamos una combinación de sistemas automatizados, revisión humana e informes de usuarios para encontrar y evaluar GPT que potencialmente violen nuestras políticas, incluido el uso de contenido de terceros sin el permiso necesario», dice Wood.
Nuevas disputas
El problema de derechos de autor de la tienda GPT podría sumarse a los dolores de cabeza legales existentes de OpenAI. La empresa se enfrenta a una serie de demandas de alto perfil por infracción de derechos de autor, incluida una presentada por Los New York Times y varios presentados por diferentes grupos de autores de ficción y no ficción, incluidos grandes nombres como George RR Martin.
Los chatbots que se ofrecen en la tienda GPT de OpenAI se basan en la misma tecnología que su propio ChatGPT, pero son creados por desarrolladores externos para funciones específicas. Para adaptar su bot, un desarrollador puede cargar información adicional que puede aprovechar para aumentar el conocimiento integrado en la tecnología de OpenAI. El proceso de consultar esta información adicional para responder a las consultas de una persona se llama generación de recuperación aumentada o RAG. Blichfeldt Andersen está convencido de que los archivos RAG detrás de los bots en la tienda GPT son un semillero de materiales protegidos por derechos de autor cargados sin permiso.