\n<\/p>\n
Detectar cu\u00e1ndo se ha generado texto mediante herramientas como ChatGPT es una tarea dif\u00edcil. Las herramientas populares de detecci\u00f3n de inteligencia artificial, como GPTZero, pueden proporcionar cierta orientaci\u00f3n a los usuarios al indicarles cu\u00e1ndo algo fue escrito por un bot y no por un humano, pero incluso el software especializado no es infalible y puede arrojar falsos positivos.<\/p>\n
Como periodista que comenz\u00f3 a cubrir la detecci\u00f3n de IA hace m\u00e1s de un a\u00f1o, quer\u00eda seleccionar algunos de los mejores art\u00edculos de WIRED sobre el tema para ayudar a lectores como usted a comprender mejor este complicado tema.<\/p>\n
\u00bfTiene a\u00fan m\u00e1s preguntas sobre c\u00f3mo detectar resultados de ChatGPT y otras herramientas de chatbot? Suscr\u00edbase a mi bolet\u00edn informativo AI Unlocked y comun\u00edquese conmigo directamente con cualquier cosa relacionada con la IA que le gustar\u00eda responder o desea que WIRED explore m\u00e1s.<\/p>\n
febrero de 2023 por Reece Rogers<\/em><\/p>\n En este art\u00edculo, que fue escrito aproximadamente dos meses despu\u00e9s del lanzamiento de ChatGPT, comenc\u00e9 a lidiar con las complejidades de la detecci\u00f3n de texto por IA, as\u00ed como con lo que la revoluci\u00f3n de la IA podr\u00eda significar para los escritores que publican en l\u00ednea. Edward Tian, \u200b\u200bel fundador de GPTZero, habl\u00f3 conmigo sobre c\u00f3mo su detector de IA se centra en factores como la variaci\u00f3n del texto y la aleatoriedad.<\/p>\n Mientras lee, conc\u00e9ntrese en la secci\u00f3n sobre marcas de agua de texto: \u00abUna marca de agua podr\u00eda designar ciertos patrones de palabras para que est\u00e9n fuera del alcance del generador de texto de IA\u00bb. Si bien era una idea prometedora, los investigadores con los que habl\u00e9 ya se mostraban esc\u00e9pticos sobre su posible eficacia.<\/p>\n Septiembre de 2023 por Christopher Beam<\/em><\/p>\n Este art\u00edculo, una pieza fant\u00e1stica de la edici\u00f3n de octubre del a\u00f1o pasado de WIRED, le brinda una mirada interna a la mentalidad de Edward Tian mientras trabajaba para expandir el alcance y las capacidades de detecci\u00f3n de GPTZero. Es crucial centrarse en c\u00f3mo la IA ha impactado el trabajo escolar.<\/p>\n La detecci\u00f3n de texto mediante IA es una prioridad para muchos educadores de aula cuando califican trabajos y, potencialmente, renuncian por completo a las tareas de ensayo debido a que los estudiantes utilizan en secreto chatbots para completar las tareas. Si bien algunos estudiantes pueden utilizar la IA generativa como herramienta de lluvia de ideas, otros la utilizan para fabricar tareas completas.<\/p>\n Septiembre de 2023 por Kate Knibbs<\/em><\/p>\n \u00bfTienen las empresas la responsabilidad de se\u00f1alar los productos que podr\u00edan generarse mediante IA? Kate Knibbs investig\u00f3 c\u00f3mo se estaban poniendo a la venta en Amazon libros potencialmente infractores de derechos de autor generados por IA, a pesar de que algunas nuevas empresas cre\u00edan que los productos pod\u00edan detectarse con un software especial y eliminarse. Uno de los debates centrales sobre la detecci\u00f3n de IA gira en torno a si el potencial de falsos positivos (texto escrito por humanos que accidentalmente se marca como trabajo de IA) supera los beneficios de etiquetar contenido generado algor\u00edtmicamente.<\/p>\n Agosto de 2023 por Amanda Hoover<\/em><\/p>\n M\u00e1s all\u00e1 de las tareas escolares, el texto generado por IA aparece cada vez m\u00e1s en revistas acad\u00e9micas, donde a menudo est\u00e1 prohibido sin una divulgaci\u00f3n adecuada. \u201cLos art\u00edculos escritos con IA tambi\u00e9n podr\u00edan desviar la atenci\u00f3n del buen trabajo al diluir el conjunto de literatura cient\u00edfica\u201d, escribe Amanda Hoover. Una posible estrategia para abordar este problema es que los desarrolladores creen herramientas de detecci\u00f3n especializadas que busquen contenido de IA en art\u00edculos revisados \u200b\u200bpor pares.<\/p>\n Octubre de 2023 por Kate Knibbs<\/em><\/p>\n Cuando habl\u00e9 por primera vez con investigadores en febrero pasado sobre marcas de agua para la detecci\u00f3n de texto por IA, se mostraron esperanzados pero cautelosos sobre la posibilidad de imprimir texto de IA con patrones de lenguaje espec\u00edficos que son indetectables para los lectores humanos pero obvios para el software de detecci\u00f3n. Mirando hacia atr\u00e1s, su temor parece bien fundamentado.<\/p>\n Solo medio a\u00f1o despu\u00e9s, Kate Knibbs habl\u00f3 con m\u00faltiples fuentes que estaban rompiendo marcas de agua de IA y demostrando su debilidad subyacente como estrategia de detecci\u00f3n. Si bien no se garantiza que fracase, la aplicaci\u00f3n de marcas de agua al texto de IA sigue siendo dif\u00edcil de lograr.<\/p>\n Abril de 2024 por Amanda Hoover<\/em><\/p>\n Una herramienta que los profesores est\u00e1n intentando utilizar para detectar el trabajo en el aula generado por IA es Turnitin, un software de detecci\u00f3n de plagio que agreg\u00f3 capacidades de detecci\u00f3n de IA. (Turnitin es propiedad de Advance, la empresa matriz de Cond\u00e9 Nast, que publica WIRED). Amanda Hoover escribe: \u201cChechitelli dice que la mayor\u00eda de los clientes del servicio han optado por comprar la detecci\u00f3n de IA. Pero los riesgos de falsos positivos y prejuicios contra los estudiantes de ingl\u00e9s han llevado a algunas universidades a deshacerse de las herramientas por ahora\u201d.<\/p>\n Es m\u00e1s probable que los detectores de IA etiqueten falsamente como IA el contenido escrito de alguien cuyo primer idioma no sea el ingl\u00e9s que el de alguien que sea un hablante nativo. A medida que los desarrolladores contin\u00faan trabajando para mejorar los algoritmos de detecci\u00f3n de IA, el problema de los resultados err\u00f3neos sigue siendo un obst\u00e1culo fundamental que hay que superar.<\/p>\n<\/div>\n