ChatGPT es una herramienta maravillosa, pero este servicio avanzado de inteligencia artificial tiene un lado oscuro que puede escribir como un experto sobre casi cualquier tema: el plagio. Cuando los estudiantes que se supone que deben demostrar su conocimiento y comprensión de un tema hacen trampa usando ChatGPT en secreto, se invalidan las pruebas y las calificaciones. Las habilidades de IA son excelentes, pero no son el único tema que los estudiantes deben aprender.
Vigilar este problema ha resultado ser difícil. Dado que ChatGPT ha sido entrenado en un vasto conjunto de datos de escritura humana, es casi imposible para un instructor identificar si un ensayo fue creado por un estudiante o una máquina. Se han creado varias herramientas que intentan reconocer la escritura generada por IA, pero la precisión era demasiado baja para ser útil.
En medio de las crecientes preocupaciones de los educadores y la prohibición de que los estudiantes usen ChatGPT, Business Insider informa que OpenAI está trabajando en una solución a este problema. Un reciente Pío de Tom Goldstein, profesor asociado de aprendizaje automático en la Universidad de Maryland, explicó cuán preciso podría ser al detectar texto con marca de agua escrito por ChatGPT.
Cualquier herramienta que pudiera identificar el plagio con casi un 100 % de precisión resolvería esta discusión rápidamente y aliviaría cualquier inquietud. Según Goldstein, una solución es hacer que el modelo de lenguaje grande (LLM, por sus siglas en inglés) elija de un vocabulario limitado de palabras, formando una lista blanca que está bien que use la IA y una lista negra de palabras que están prohibidas. Si aparece una cantidad anormalmente grande de palabras de la lista blanca en una muestra, eso sugeriría que fue generada por la IA.
Este enfoque simplista sería demasiado restrictivo, ya que es difícil predecir qué palabras podrían ser necesarias para una discusión cuando se trabaja una palabra a la vez, como lo hacen la mayoría de los LLM. Goldstein sugiere que a ChatGPT se le podría dar la capacidad de mirar más allá de una palabra para que pueda planificar una oración que se pueda llenar con palabras en la lista blanca sin dejar de tener sentido.
ChatGPT causó un gran revuelo cuando ingresó al grupo de escritura de la comunidad y también puede ser un gran ayudante para la enseñanza. Es importante introducir la inteligencia artificial en las escuelas, ya que claramente será una tecnología importante para entender en el futuro, pero seguirá siendo controvertida hasta que se aborde el tema del plagio.
Recomendaciones de los editores