Una historia corta titulada “La última esperanza” llegó por primera vez al escritorio de Sheila Williams a principios de enero. Williams, el editor de La ciencia ficción de Asimov revista, revisó la historia y la transmitió.
Al principio, no le dio mucha importancia; ella lee y responde a los escritores diariamente como parte de su trabajo, recibiendo entre 700 y 750 historias por mes. Pero cuando apareció otra historia, también titulada “La última esperanza”, un par de semanas después escrita por un escritor con un nombre diferente, Williams comenzó a sospechar. Cuando llegó otro «La última esperanza» unos días después, Williams supo de inmediato que tenía un problema en sus manos.
“Eso es como la punta del iceberg”, dice Williams.
Desde esa primera presentación, Williams ha recibido más de 20 historias cortas, todas tituladas «La última esperanza», cada una proveniente de diferentes autores y direcciones de correo electrónico. Williams cree que todos se generaron utilizando herramientas de inteligencia artificial, junto con cientos de otras presentaciones similares que han abrumado a los pequeños editores en los últimos meses.
de Asimov recibió alrededor de 900 historias para su consideración en enero y está en camino de obtener 1000 este mes. Williams dice que casi todo el aumento se puede atribuir a piezas que parecen haber sido generadas por IA, y ha leído tantas que ahora a menudo puede decir, desde las primeras palabras, si algo podría no haber sido escrito por un humano.
A veces ni siquiera se han molestado en reemplazar “[name]” con los suyos
Además de repetir títulos, hay ciertos nombres de personajes que tienden a aparecer con frecuencia, dice Williams. A veces el manuscrito contendrá una diferente título que el indicado en el formulario en línea. Los nombres de los autores a menudo parecen ser fusiones de nombres y apellidos. En las cartas de presentación opcionales, algunos autores incluyen instrucciones sobre cómo transferirles dinero para su historia que aún no ha sido aceptado. A veces, el remitente ni siquiera se ha molestado en reemplazar «[name]” con los suyos.
Usando ChatGPT, el borde pudo replicar algunos elementos de presentaciones que Williams ha visto. Un mensaje para escribir una historia corta de ciencia ficción, además de información para copiar y pegar de de Asimov pautas de envío: historias producidas con docenas de títulos similares en sucesión, como «El último eco», «El último mensaje», «El último día de otoño» y «El último viajero».
Willams y su equipo han aprendido a detectar trabajos generados por IA, pero la afluencia de envíos ha sido igualmente frustrante. Puntos de venta como de Asimov se ven abrumados por la inteligencia artificial, lo que les quita el tiempo a los editores y lectores y potencialmente desplazan las presentaciones genuinas de los escritores más nuevos. Y el problema solo podría empeorar, ya que la mayor disponibilidad de bots de escritura crea un nuevo género de esquemas para hacerse rico rápidamente, donde las revistas literarias con envíos abiertos se han descubierto en el extremo receptor de una nueva superficie para envíos de spam que intentan jugar. el sistema.
“Básicamente, los reviso lo más rápido que puedo”, dice Williams sobre las piezas que sospecha que son generadas por IA. “Se necesita la misma cantidad de tiempo para descargar una presentación, abrirla y mirarla. Y preferiría dedicar ese tiempo a las presentaciones legítimas”.
Para algunos editores, la afluencia de envíos generados por IA los ha obligado a dejar de aceptar nuevos trabajos.
Clarke cree que las presentaciones provienen de personas influyentes y sitios web de «actividad secundaria».
La semana pasada, la popular revista de ciencia ficción clarkesworld Anunciado cerraría temporalmente las presentaciones debido a una avalancha de trabajo generado por IA. en un publicación de blog anterior, el editor Neil Clarke había notado que la revista se vio obligada a prohibir un número vertiginoso de autores porque habían enviado historias que se generaron con herramientas automatizadas. Solo en febrero, clarkesworld había recibido 700 presentaciones escritas por humanos y 500 historias generadas por máquinas, dice Clarke.
Clarke cree que los envíos de spam provienen de personas que buscan ganar dinero rápido y que encontraron clarkesworld y otras publicaciones a través de personas influyentes y sitios web de «ajetreo secundario». Un sitio web, por ejemplo, está repleto de artículos de cebo SEO y palabras clave sobre marketing, redacción y negocios, y promete ayudar a los lectores a ganar dinero rápidamente. Un artículo en el sitio enumera casi dos docenas de revistas y sitios web literarios, incluidos clarkesworld y de Asimov, así como medios más grandes como la BBC — con tarifa de pago y detalles de presentación. El artículo alienta a los lectores a usar herramientas de inteligencia artificial para ayudarlos e incluye enlaces de marketing de afiliados a Jasper, un software de escritura de inteligencia artificial.
La mayoría de las publicaciones pagan pequeñas tarifas por palabra, alrededor de 8 a 10 centavos, mientras que otras pagan tarifas fijas de hasta unos pocos cientos de dólares por piezas aceptadas. En su blog, Clarke escribió que un «alto porcentaje de envíos fraudulentos» provenía de algunas regiones, pero se negó a nombrarlos, preocupado de que pudiera pintar a los escritores de esos países como estafadores.
Pero la posibilidad de que le paguen es un factor: en algunos casos, Clarke ha mantenido correspondencia con personas a las que se les ha prohibido enviar trabajos generados por IA, diciendo que necesitan el dinero. Otro editor dijo el borde que incluso antes de las historias generadas por IA, recibían presentaciones y correos electrónicos de escritores en países donde el costo de vida es más bajo y una tarifa de publicación de $ 80 es mucho más que en los EE. UU.
Clarke, quien creó el sistema de envío que usa su revista, describió los esfuerzos de los spammers de historias de IA como «poco elegantes»: al comparar notas con otros editores, Clarke pudo ver que el mismo trabajo se estaba enviando desde la misma dirección IP a varias publicaciones. con solo unos minutos de diferencia, a menudo en el orden en que aparecen las revistas en las listas.
“Si se tratara de personas de dentro de la [science fiction and fantasy] comunidad, sabrían que no funcionaría. Sería inmediatamente obvio para ellos que no podían hacer esto y esperar que funcionara”, dice Clarke.
El tema se extiende más allá de las publicaciones de ciencia ficción y fantasía. Ficción flash en línea acepta una variedad de géneros, incluidos el terror y la ficción literaria. El 14 de febrero, el medio agregó un aviso a su formulario de envío: “Nos comprometemos a publicar historias escritas y editadas por humanos. Nos reservamos el derecho de rechazar cualquier envío que sospechemos que haya sido generado o creado principalmente por software de modelado de lenguaje, ChatGPT, bots de chat o cualquier otra aplicación, bot o software de IA”.
Los términos actualizados se agregaron en el momento en que FFO recibió más de 30 presentaciones de una fuente en unos pocos días, dice Anna Yeatts, editora y coeditora en jefe. Cada historia golpeó los clichés que Yeatts había visto en el trabajo generado por IA, y cada una tenía una carta de presentación única, estructurada y escrita a diferencia de lo que normalmente ve la publicación. Pero Yeatts y sus colegas tenían sospechas desde enero de que parte del trabajo que les habían enviado se había creado con herramientas de IA.
Yeatts había jugado con ChatGPT a partir de diciembre, alimentando las indicaciones de la herramienta para producir historias de géneros específicos o en estilos como el romance gótico. El sistema fue capaz de replicar los elementos técnicos, incluido el establecimiento de los personajes principales y el escenario y la introducción del conflicto, pero no logró producir ningún «punto de vista profundo»: los finales eran demasiado claros y perfectos, y las emociones a menudo se derramaban en el melodrama. Todo el mundo tiene «ojos verdes penetrantes» y las historias a menudo comienzan con personajes sentados. De las más de 1.000 obras FFO ha recibido este año, Yeatts estima que alrededor del 5 por ciento probablemente fueron generados por IA.
“Ponemos esa pequeña advertencia aterradora [on the submissions page]”, dice Yeatts. Sin embargo, hacerla cumplir podría resultar un desafío.
En el pasado, FFO ha publicado trabajos convencionales que tienen un estilo de escritura más convencional y una voz que es accesible a una variedad de niveles de lectura. Para eso, Yeatts dice que las historias generadas con herramientas de inteligencia artificial podrían superar los requisitos básicos.
“Tiene todas las partes de la historia que intentas buscar. Tiene un principio, un medio y un final. Tiene una resolución, personajes. La gramática es buena”, dice Yeatts. El equipo de FFO está trabajando para capacitar a los lectores del personal para que busquen ciertos elementos de la historia mientras dan un primer paso en las presentaciones.
“Realmente no tenemos buenas soluciones”.
A Yeatts le preocupa que una ola creciente de trabajos generados por IA pueda, literalmente, excluir el trabajo escrito. El medio utiliza Submittable, un popular servicio de presentación, y FFOEl plan de que incluye un límite mensual en las historias, después de lo cual el portal se cierra. Si cientos de personas envían trabajos no elegibles generados por IA, eso podría impedir que los autores humanos envíen sus historias.
Yeatts no está seguro de qué puede hacer la revista para evitar que lleguen las historias. Actualizar el plan de Submittable sería costoso para FFOque funciona «con un presupuesto reducido», dice Yeatts.
“Hemos hablado de solicitar historias de otros autores, pero eso tampoco se siente fiel a lo que somos como publicación porque eso disuadirá a los nuevos escritores”, dice Yeatts. “Realmente no tenemos buenas soluciones”.
Otros en la comunidad están atentos al problema que está inundando a otros editores y están pensando en formas de responder antes de que se extienda más. Matthew Kressel, un escritor de ciencia ficción y creador de Moksha, un sistema de envío en línea utilizado por docenas de publicaciones, dice que comenzó a escuchar de clientes que han recibido envíos de spam que parecen estar escritos con herramientas de IA.
Kressel dice que quiere mantener a Moksha «agnóstico» en lo que respecta al valor de los envíos generados mediante chatbots. Los editores tienen la capacidad de agregar una casilla de verificación donde los escritores pueden confirmar que su trabajo no usa sistemas de IA, dice Kressel, y está considerando agregar una opción para publicaciones que les permitiría bloquear o limitar parcialmente las presentaciones usando herramientas de IA.
“Permitir que los autores se autoafirmen si el trabajo es generado por IA es un buen primer paso”, dijo Kressel. el borde vía correo electrónico. “Proporciona más transparencia a todo el asunto, porque en este momento hay muchas incertidumbres”.
Para Williams, el editor de de Asimov, verse obligada a usar su tiempo para revisar la pila de chatarra generada por IA es frustrante. Pero aún más preocupante es que los nuevos autores legítimos puedan ver lo que está sucediendo y pensar que los editores nunca llegarán a su manuscrito.
“No quiero que los escritores se preocupen de que voy a extrañar su trabajo porque estoy inundado de basura”, dice Williams. Las buenas historias son obvias desde el principio. “La mente que elabora la historia interesante no está en peligro”.