Para detener el abuso de ChatGPT, OpenAI tiene una nueva herramienta que puede decirle si es más probable que un fragmento de texto provenga de un programa de inteligencia artificial o de un ser humano.
OpenAI presentó la herramienta «clasificador»(Se abre en una nueva ventana) el martes para ayudar a tomar medidas enérgicas contra el texto generado por IA que se hace pasar como proveniente de un ser humano. El problema se ha vuelto especialmente pronunciado en la educación con estudiantes que explotan ChatGPT para completar sus tareas.
en una entrada de blog(Se abre en una nueva ventana)OpenAI también señaló que el texto generado por IA podría representar una amenaza cuando se usa para generar texto automatizado para campañas de desinformación.
La herramienta de clasificación es bastante sencilla: envíe un texto de al menos 1000 caracteres y OpenAI le dirá la probabilidad de que provenga de un programa de inteligencia artificial o de un ser humano. La herramienta se creó entrenando un modelo de computadora para discernir entre «pares de texto escrito por humanos y texto escrito por IA sobre el mismo tema».
(Crédito: OpenAI)
Sin embargo, el laboratorio de San Francisco admite que el clasificador está lejos de ser perfecto. “En nuestras evaluaciones sobre un ‘conjunto desafiante’ de textos en inglés, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como ‘probablemente escrito por IA’, mientras que incorrectamente etiqueta el texto escrito por humanos como 9 % escrito por IA. del tiempo (falsos positivos)”, escribió OpenAI.
La confiabilidad del clasificador también disminuye al examinar fragmentos cortos o algunos párrafos de texto. Por lo tanto, la herramienta solo funcionará en envíos de más de 1000 caracteres de longitud. Además, «a veces, el texto escrito por humanos será etiquetado incorrectamente pero con confianza como escrito por IA por nuestro clasificador», señaló OpenAI.
“Además, los estudiantes pueden aprender rápidamente cómo evadir la detección modificando algunas palabras o cláusulas en el contenido generado”, dijo el laboratorio.
Por lo tanto, OpenAI dice que la herramienta «no debe usarse como una herramienta principal para la toma de decisiones» cuando se trata de determinar si un texto es generado por IA o no. Pero a pesar de todas las limitaciones, OpenAI decidió lanzar la herramienta, ya que funciona en «mitigaciones» para evitar que los estudiantes exploten ChatGPT para hacer trampa.
«Estamos haciendo que este clasificador esté disponible públicamente para recibir comentarios(Se abre en una nueva ventana) sobre si las herramientas imperfectas como esta son útiles”, agregó OpenAI. “Nuestro trabajo en la detección de texto generado por IA continuará y esperamos compartir métodos mejorados en el futuro”.
Recomendado por Nuestros Editores
Un ejemplo de un ensayo que ChatGPT puede escribir. (Crédito: IA abierta)
Lanzado en noviembre, ChatGPT es tan avanzado que el programa de IA puede escribir ensayos, poemas y responder preguntas de prueba sobre una amplia variedad de temas en segundos. Si bien la calidad de las respuestas puede ser inestable, los investigadores descubrieron que ChatGPT es lo suficientemente inteligente como para (apenas) aprobar un examen de MBA e incluso corregir numerosos errores en el código de la computadora.
Inevitablemente, la aparición de ChatGPT ha generado dudas sobre si el mismo programa amenaza con socavar la educación e interrumpir los trabajos administrativos. Algunas escuelas y maestros ya han decidido bloquear el programa de inteligencia artificial en sus redes debido a la preocupación de que ChatGPT hace que hacer trampa en las tareas y exámenes sea demasiado fácil. Mientras tanto, algunos terceros han lanzado sus propios(Se abre en una nueva ventana) herramientas(Se abre en una nueva ventana) para ayudar a los educadores a descubrir el texto generado por IA.
OpenAI dijo que está tratando de abordar los problemas de trampa contactando a los maestros en los EE. UU. para conocer sus experiencias. El laboratorio también ha publicado un documento(Se abre en una nueva ventana) con consejos sobre cómo los educadores pueden introducir y supervisar el uso de ChatGPT en sus aulas de forma segura.
Pero OpenAI también señaló que aún es demasiado pronto para decir cómo los programas como ChatGPT afectarán la educación y la sociedad. “Hasta la fecha, hemos visto casos de mejoras en la productividad que transforman los empleos, el desplazamiento de empleos y la creación de empleos, pero los efectos netos a corto y largo plazo no están claros”, dijo.
¡Obtenga nuestras mejores historias!
Matricularse en ¿Qué hay de nuevo ahora? para recibir nuestras mejores historias en su bandeja de entrada todas las mañanas.
Este boletín puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un boletín informativo indica su consentimiento a nuestros Términos de uso y Política de privacidad. Puede darse de baja de los boletines en cualquier momento.