La consternación y el desprecio arrasaron las redes sociales de los científicos el jueves cuando varias cifras atrozmente malas generadas por IA circularon a partir de un artículo revisado por pares publicado recientemente en una revista de renombre. Esas cifras, que los autores reconocen en el texto del artículo fueron realizadas por Midjourney, son todas ininterpretables. Contienen texto galimatías y, lo más sorprendente, uno incluye una imagen de una rata con genitales grotescamente grandes y extraños, así como una etiqueta de texto que dice «dck».
El jueves, el editor del artículo de revisión, Frontiers, publicó una «expresión de preocupación», señalando que está al tanto de las preocupaciones con respecto al artículo publicado. «Actualmente se está llevando a cabo una investigación y este aviso se actualizará en consecuencia una vez que concluya la investigación», escribió el editor.
El artículo en cuestión se titula «Funciones celulares de las células madre espermatogoniales en relación con la vía de señalización JAK/STAT», y fue escrito por tres investigadores en China, incluido el autor correspondiente Dingjun Hao del Hospital Xi’an Honghui. Fue publicado en línea el martes en la revista Frontiers in Cell and Developmental Biology.
Frontiers no respondió de inmediato a la solicitud de comentarios de Ars, pero actualizaremos esta publicación con cualquier respuesta.
La primera figura del artículo, la que contiene la rata, llamó la atención de inmediato cuando los científicos comenzaron a compartirla ampliamente y a comentarla en plataformas de redes sociales, incluidas Bluesky y X, la plataforma anteriormente conocida como Twitter. Desde la distancia, la imagen anatómica es claramente errónea. Pero mirar más de cerca sólo revela más fallas, incluidas las etiquetas «dissilced», Stemm cell», «iollotte sserotgomar» y «dck». Muchos investigadores expresaron sorpresa y consternación de que una imagen tan descaradamente mala generada por IA pudiera pasar a través del par. -sistema de revisión y cualquier procesamiento interno que exista en la revista.
Pero el paquete de la rata está lejos de ser el único problema. La figura 2 es menos gráfica pero igualmente destrozada. Si bien pretende ser un diagrama de una vía de señalización compleja, en cambio es un desastre. Un experto en integridad científica cuestionó si proporcionaba una explicación demasiado complicada de «cómo hacer un donut con chispas de colores». Al igual que la primera imagen, el diagrama está plagado de texto sin sentido e imágenes desconcertantes. La Figura 3 no es mejor, ya que ofrece un collage de pequeñas imágenes circulares densamente anotadas con galimatías. Se supone que la imagen proporciona representaciones visuales de cómo la vía de señalización de la Figura 2 regula las propiedades biológicas de las células madre espermatogoniales.
Algunos científicos en línea cuestionaron si el texto del artículo también fue generado por IA. Un usuario notó que el software de detección de IA determinó que era probable que fuera generada por IA; sin embargo, como informó Ars anteriormente, dicho software no es confiable.
Las imágenes, si bien son ejemplos atroces, resaltan un problema creciente en las publicaciones científicas. El éxito de un científico depende en gran medida de su historial de publicaciones, con un gran volumen de publicaciones, publicaciones frecuentes y artículos que aparecen en revistas de primer nivel, todo lo cual otorga más prestigio a los científicos. El sistema incentiva a investigadores poco escrupulosos a publicar artículos de baja calidad que, en la era de los chatbots de IA, podrían generarse con la ayuda de la IA. A los investigadores les preocupa que el uso cada vez mayor de la IA haga que las investigaciones publicadas sean menos confiables. Como tal, las revistas de investigación han establecido recientemente nuevas pautas de autoría para el texto generado por IA para intentar abordar el problema. Pero por ahora, como muestra el artículo de Frontiers, es evidente que existen algunas lagunas.