Mientras los profesores utilizan herramientas para detectar si los estudiantes están usando ChatGPT para hacer trampa, OpenAI dice que no se moleste: las herramientas no son confiables.
La compañía emitió el consejo en una nueva pregunta frecuente que instruye a los educadores sobre el uso de ChatGPT en las escuelas, incluidos los posibles obstáculos al intentar detectar texto escrito por IA.
Han surgido varias herramientas para abordar cómo los chatbots impulsados por IA pueden ayudar a los estudiantes a hacer trampa en sus tareas y exámenes. Pero según OpenAI, depender de una herramienta para extraer texto escrito por IA del trabajo de un estudiante está lleno de problemas.
«Si bien algunos (incluido OpenAI) han lanzado herramientas que pretenden detectar contenido generado por IA, ninguna de ellas ha demostrado distinguir de manera confiable entre contenido generado por IA y contenido generado por humanos», escribió la compañía en las preguntas frecuentes.
(Crédito: Gabby Jones/Bloomberg vía Getty Images)
OpenAI agregó que «uno de nuestros hallazgos clave fue que estas herramientas a veces sugieren que el contenido escrito por humanos fue generado por IA». Por ejemplo, la propia investigación de la compañía encontró que las herramientas de detección de IA podían marcar erróneamente textos escritos por humanos del dramaturgo William Shakespeare y la Declaración de Independencia como generados por IA.
«También hubo indicios de que podría afectar desproporcionadamente a los estudiantes que habían aprendido o estaban aprendiendo inglés como segundo idioma y a los estudiantes cuya escritura era particularmente formulada o concisa», agregó la compañía.
Los resultados corren el riesgo de que un profesor acuse falsamente a un estudiante de hacer trampa con ChatGPT. OpenAI también señaló que algunos profesores pueden ser recurriendo hasta ingresar texto que sospechan que está generado por IA en ChatGPT y preguntar si escribió el contenido. Pero este enfoque también tiene fallas porque el programa chatbot tiene memoria limitada y no puede recordar historiales de conversaciones de otros usuarios. OpenAI incluso señala que ChatGPT puede «a veces inventar respuestas a preguntas como «¿escribiste esto?» [essay]?’ o ‘¿podría haber sido escrito por IA?’”
Las preguntas frecuentes ciertamente señalan los desafíos al intentar detectar texto escrito por IA. Pero OpenAI no proporciona exactamente una solución para detectar trampas basadas en ChatGPT. En cambio, la empresa aboga por un enfoque que se centre en la transparencia, en el que el estudiante muestre al profesor y a sus compañeros cómo utilizan el chatbot para responder preguntas.
Recomendado por nuestros editores
«Los estudiantes pueden demostrar su capacidad para interactuar con la IA y su comprensión de las deficiencias de los sistemas de IA», dijo OpenAI. «Los educadores pueden evaluar la calidad de las preguntas formuladas, la relevancia de la información obtenida y qué tan bien el estudiante entendió cuestionar, verificar y considerar posibles sesgos en esa información».
Por supuesto, una forma de dejar de hacer trampa con ChatGPT es simplemente prohibir su uso en una escuela y obligar a los estudiantes a completar tareas sin acceso a Internet. Sin embargo, OpenAI espera que el uso de herramientas de inteligencia artificial se convierta en algo “común” en la sociedad, lo que, según afirma, subraya la necesidad de enseñar a los estudiantes cómo usar la tecnología de manera responsable.
Por eso, OpenAI aboga por que los educadores adopten ChatGPT como herramienta de enseñanza. En una publicación de blog relacionada, la compañía compartió cómo varios profesores están utilizando ChatGPT con sus alumnos, incluido el uso del programa de inteligencia artificial como compañero de debate. La publicación del blog también señala que se puede aprovechar ChatGPT para ayudar a los educadores a crear rápidamente cuestionarios, pruebas y planes de lecciones para sus estudiantes. Incluso incluye varios ejemplos de indicaciones que los profesores pueden utilizar para ayudarles con su trabajo.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras historias principales en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. La suscripción a un boletín indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.