Los estudiantes han enviado más de 22 millones de artículos que pueden haber utilizado IA generativa durante el año pasado, según muestran nuevos datos publicados por la empresa de detección de plagio Turnitin.
Hace un año, Turnitin lanzó una herramienta de detección de escritura con IA que se entrenó en su gran cantidad de artículos escritos por estudiantes, así como en otros textos generados por IA. Desde entonces, el detector ha revisado más de 200 millones de artículos, predominantemente escritos por estudiantes de secundaria y universitarios. Turnitin descubrió que el 11 por ciento puede contener lenguaje escrito por IA en el 20 por ciento de su contenido, y el 3 por ciento del total de los artículos revisados fueron marcados por tener un 80 por ciento o más de escritura por IA. (Turnitin es propiedad de Advance, que también es propietaria de Condé Nast, editor de WIRED). Turnitin dice que su detector tiene una tasa de falsos positivos de menos del 1 por ciento cuando analiza documentos completos.
El lanzamiento de ChatGPT fue recibido con temores instintivos de que el ensayo de la clase de inglés moriría. El chatbot puede sintetizar información y destilarla casi instantáneamente, pero eso no significa que siempre lo haga bien. Se sabe que la IA generativa alucina, crea sus propios hechos y cita referencias académicas que en realidad no existen. También se ha descubierto que los chatbots de IA generativa escupen texto sesgado sobre género y raza. A pesar de esos defectos, los estudiantes han utilizado chatbots para investigar, organizar ideas y como escritores fantasmas. Incluso se han encontrado rastros de chatbots en escritos académicos publicados y revisados por pares.
Es comprensible que los profesores quieran responsabilizar a los estudiantes por el uso de IA generativa sin permiso ni divulgación. Pero eso requiere una forma confiable de demostrar que se utilizó IA en una tarea determinada. En ocasiones, los instructores han intentado encontrar sus propias soluciones para detectar la IA en la escritura, utilizando métodos confusos y no probados para hacer cumplir las reglas y angustiando a los estudiantes. Para complicar aún más la cuestión, algunos profesores incluso están utilizando IA generativa en sus procesos de calificación.
Detectar el uso de IA de generación es complicado. No es tan fácil como marcar un plagio, porque el texto generado sigue siendo texto original. Además, hay matices en la forma en que los estudiantes usan la IA generacional; algunos pueden pedir a los chatbots que les escriban sus artículos en grandes partes o en su totalidad, mientras que otros pueden utilizar las herramientas como ayuda o como compañero de lluvia de ideas.
Los estudiantes tampoco se sienten tentados únicamente por ChatGPT y modelos de lenguaje grandes similares. Los llamados generadores de palabras son otro tipo de software de inteligencia artificial que reescribe texto y pueden hacer que a un maestro le resulte menos obvio que el trabajo fue plagiado o generado por inteligencia artificial. El detector de IA de Turnitin también se ha actualizado para detectar palabras, dice Annie Chechitelli, directora de productos de la compañía. También puede señalar trabajos que fueron reescritos por servicios como el corrector ortográfico Grammarly, que ahora tiene su propia herramienta de inteligencia artificial generativa. A medida que el software familiar agrega cada vez más componentes generativos de IA, lo que los estudiantes pueden y no pueden usar se vuelve más confuso.
Las propias herramientas de detección tienen un riesgo de sesgo. Es más probable que los estudiantes de inglés los hagan estallar; Un estudio de 2023 encontró una tasa de falsos positivos del 61,3 por ciento al evaluar los exámenes de inglés como lengua extranjera (TOEFL) con siete detectores de IA diferentes. El estudio no examinó la versión de Turnitin. La compañía dice que ha entrenado su detector en la escritura de estudiantes de inglés y de hablantes nativos de inglés. Un estudio publicado en octubre encontró que Turnitin estaba entre los 16 detectores de lenguaje de IA más precisos en una prueba en la que la herramienta examinaba trabajos de pregrado y trabajos generados por IA.