El diálogo generado por inteligencia artificial de ChatGPT se ha vuelto bastante sofisticado, hasta el punto en que puede escribir ensayos que suenan convincentes. Entonces, Edward Tian, un estudiante de ciencias de la computación en Princeton, creó una aplicación llamada GPTZero que puede etiquetar «rápida y eficientemente» si un ensayo fue escrito por una persona o por ChatGPT.
Pasé Año Nuevo creando GPTZero, una aplicación que puede detectar rápida y eficientemente si un ensayo es ChatGPT o escrito por humanos.
—Edward Tian (@edward_the6) 3 de enero de 2023
En una serie de tweets recientes, Tian proporcionó ejemplos de GPTZero en progreso; la aplicación determinó que el ensayo del New Yorker de John McPhee, «Marco de referencia», fuera escrito por una persona y que un bot creara una publicación de LinkedIn. En Twitter, dijo que creó la aplicación durante las vacaciones y que estaba motivado por la creciente posibilidad de plagio de IA.
El 3 de enero, Tian tuiteó que GPTZero no estaba funcionando, probablemente debido a una cantidad de tráfico web mayor a la anticipada. En un boletín de Substack que Tian publicó hoy, dijo que más de 10,000 personas habían probado la versión disponible públicamente de GPTZero en Steamlit. (En el momento de escribir este artículo, tanto gptzero.me como la versión Streamlit muestran errores, probablemente debido al volumen de tráfico). En el boletín, Tian dijo que actualizó el modelo GPTZero para «reducir significativamente la tasa de falsos positivos y mejorar los resultados de salida». .”
GPTZero usa «perplejidad» y «ráfaga» para determinar si un pasaje fue escrito por un bot. La perplejidad es cuán aleatorio es el texto en una oración y si la forma en que se construye una oración es inusual o sorprendente para la aplicación. Burstiness compara estas oraciones entre sí, determinando su similitud. La escritura humana tiene más ráfagas, es decir, tendemos a escribir con más variación de oraciones.
Las preocupaciones sobre el plagio han abundado desde que OpenAI lanzó ChatGPT el 30 de noviembre de 2022. Más de un millón de personas lo usaron dentro de los cinco días posteriores al lanzamiento. El software impulsado por IA puede escribir ensayos básicos y emular el estilo de escritores establecidos. Puede indicar a ChatGPT que copie la voz de Shakespeare, por ejemplo, o escribir al estilo de un ensayista neoyorquino. Hay inconvenientes en la ejecución, pero los resultados son reconocibles en el estilo correcto. No es difícil hacer que la IA escriba un ensayo al estilo inglés de la escuela secundaria y encontrar el resultado bastante indistinguible de una tarea escrita por un estudiante. Dicho esto, todavía hay limitaciones a lo que puede hacer. Se desconcierta fácilmente con los acertijos y, a veces, solo inventa hechos. StackOverflow también prohibió cualquier comentario de codificación generado por ChatGPT, gracias a la frecuencia de los errores.
En diciembre, OpenAI dijo que pondría una «marca de agua» en la salida de ChatGPT para combatir el plagio.
En su boletín, Tian dijo que está trabajando en más actualizaciones de GPTZero, que incluyen «mejorar las capacidades del modelo y escalar la aplicación por completo».