Detectar cuándo se ha generado texto mediante herramientas como ChatGPT es una tarea difícil. Las herramientas populares de detección de inteligencia artificial, como GPTZero, pueden proporcionar cierta orientación a los usuarios al indicarles cuándo algo fue escrito por un bot y no por un humano, pero incluso el software especializado no es infalible y puede arrojar falsos positivos.
Como periodista que comenzó a cubrir la detección de IA hace más de un año, quería seleccionar algunos de los mejores artículos de WIRED sobre el tema para ayudar a lectores como usted a comprender mejor este complicado tema.
¿Tiene aún más preguntas sobre cómo detectar resultados de ChatGPT y otras herramientas de chatbot? Suscríbase a mi boletín informativo AI Unlocked y comuníquese conmigo directamente con cualquier cosa relacionada con la IA que le gustaría responder o desea que WIRED explore más.
febrero de 2023 por Reece Rogers
En este artículo, que fue escrito aproximadamente dos meses después del lanzamiento de ChatGPT, comencé a lidiar con las complejidades de la detección de texto por IA, así como con lo que la revolución de la IA podría significar para los escritores que publican en línea. Edward Tian, el fundador de GPTZero, habló conmigo sobre cómo su detector de IA se centra en factores como la variación del texto y la aleatoriedad.
Mientras lee, concéntrese en la sección sobre marcas de agua de texto: «Una marca de agua podría designar ciertos patrones de palabras para que estén fuera del alcance del generador de texto de IA». Si bien era una idea prometedora, los investigadores con los que hablé ya se mostraban escépticos sobre su posible eficacia.
Septiembre de 2023 por Christopher Beam
Este artículo, una pieza fantástica de la edición de octubre del año pasado de WIRED, le brinda una mirada interna a la mentalidad de Edward Tian mientras trabajaba para expandir el alcance y las capacidades de detección de GPTZero. Es crucial centrarse en cómo la IA ha impactado el trabajo escolar.
La detección de texto mediante IA es una prioridad para muchos educadores de aula cuando califican trabajos y, potencialmente, renuncian por completo a las tareas de ensayo debido a que los estudiantes utilizan en secreto chatbots para completar las tareas. Si bien algunos estudiantes pueden utilizar la IA generativa como herramienta de lluvia de ideas, otros la utilizan para fabricar tareas completas.
Septiembre de 2023 por Kate Knibbs
¿Tienen las empresas la responsabilidad de señalar los productos que podrían generarse mediante IA? Kate Knibbs investigó cómo se estaban poniendo a la venta en Amazon libros potencialmente infractores de derechos de autor generados por IA, a pesar de que algunas nuevas empresas creían que los productos podían detectarse con un software especial y eliminarse. Uno de los debates centrales sobre la detección de IA gira en torno a si el potencial de falsos positivos (texto escrito por humanos que accidentalmente se marca como trabajo de IA) supera los beneficios de etiquetar contenido generado algorítmicamente.
Agosto de 2023 por Amanda Hoover
Más allá de las tareas escolares, el texto generado por IA aparece cada vez más en revistas académicas, donde a menudo está prohibido sin una divulgación adecuada. “Los artículos escritos con IA también podrían desviar la atención del buen trabajo al diluir el conjunto de literatura científica”, escribe Amanda Hoover. Una posible estrategia para abordar este problema es que los desarrolladores creen herramientas de detección especializadas que busquen contenido de IA en artículos revisados por pares.
Octubre de 2023 por Kate Knibbs
Cuando hablé por primera vez con investigadores en febrero pasado sobre marcas de agua para la detección de texto por IA, se mostraron esperanzados pero cautelosos sobre la posibilidad de imprimir texto de IA con patrones de lenguaje específicos que son indetectables para los lectores humanos pero obvios para el software de detección. Mirando hacia atrás, su temor parece bien fundamentado.
Solo medio año después, Kate Knibbs habló con múltiples fuentes que estaban rompiendo marcas de agua de IA y demostrando su debilidad subyacente como estrategia de detección. Si bien no se garantiza que fracase, la aplicación de marcas de agua al texto de IA sigue siendo difícil de lograr.
Abril de 2024 por Amanda Hoover
Una herramienta que los profesores están intentando utilizar para detectar el trabajo en el aula generado por IA es Turnitin, un software de detección de plagio que agregó capacidades de detección de IA. (Turnitin es propiedad de Advance, la empresa matriz de Condé Nast, que publica WIRED). Amanda Hoover escribe: “Chechitelli dice que la mayoría de los clientes del servicio han optado por comprar la detección de IA. Pero los riesgos de falsos positivos y prejuicios contra los estudiantes de inglés han llevado a algunas universidades a deshacerse de las herramientas por ahora”.
Es más probable que los detectores de IA etiqueten falsamente como IA el contenido escrito de alguien cuyo primer idioma no sea el inglés que el de alguien que sea un hablante nativo. A medida que los desarrolladores continúan trabajando para mejorar los algoritmos de detección de IA, el problema de los resultados erróneos sigue siendo un obstáculo fundamental que hay que superar.