\n<\/p>\n
Despu\u00e9s de telegrafiar el movimiento en las apariciones en los medios, OpenAI lanz\u00f3 una herramienta que intenta distinguir entre el texto escrito por humanos y el generado por IA, como el texto producido por los propios modelos ChatGPT y GPT-3 de la compa\u00f1\u00eda. El clasificador no es particularmente preciso: su tasa de \u00e9xito es de alrededor del 26%, se\u00f1ala OpenAI, pero OpenAI argumenta que, cuando se usa junto con otros m\u00e9todos, podr\u00eda ser \u00fatil para ayudar a prevenir el abuso de los generadores de texto de IA.<\/p>\n
\u201cEl clasificador tiene como objetivo ayudar a mitigar las afirmaciones falsas de que el texto generado por IA fue escrito por un humano. Sin embargo, todav\u00eda tiene una serie de limitaciones, por lo que debe usarse como complemento de otros m\u00e9todos para determinar la fuente del texto en lugar de ser la herramienta principal para la toma de decisiones\u201d, dijo un portavoz de OpenAI a TechCrunch por correo electr\u00f3nico. \u00abEstamos poniendo a disposici\u00f3n este clasificador inicial para obtener comentarios sobre si herramientas como esta son \u00fatiles y esperamos compartir m\u00e9todos mejorados en el futuro\u00bb.<\/p>\n
A medida que crece el fervor en torno a la IA generativa, en particular la IA que genera texto, los cr\u00edticos han pedido a los creadores de estas herramientas que tomen medidas para mitigar sus efectos potencialmente da\u00f1inos. Algunos de los distritos escolares m\u00e1s grandes de los EE. UU. han prohibido ChatGPT en sus redes y dispositivos, por temor a los impactos en el aprendizaje de los estudiantes y la precisi\u00f3n del contenido que produce la herramienta. Y los sitios, incluido Stack Overflow, han prohibido a los usuarios compartir contenido generado por ChatGPT, diciendo que la IA hace que sea demasiado f\u00e1cil para los usuarios inundar los hilos de discusi\u00f3n con respuestas dudosas.<\/p>\n
El clasificador de OpenAI, acertadamente llamado OpenAI AI Text Classifier, es intrigante desde el punto de vista arquitect\u00f3nico. Al igual que ChatGPT, es un modelo de lenguaje de IA entrenado en muchos, muchos ejemplos de texto disponible p\u00fablicamente en la web. Pero a diferencia de ChatGPT, est\u00e1 ajustado para predecir la probabilidad de que la IA haya generado un fragmento de texto, no solo de ChatGPT, sino de cualquier modelo de IA que genere texto.<\/p>\n
M\u00e1s espec\u00edficamente, OpenAI capacit\u00f3 al clasificador de texto OpenAI AI en texto de 34 sistemas de generaci\u00f3n de texto de cinco organizaciones diferentes, incluida la propia OpenAI. Este texto se combin\u00f3 con texto escrito por humanos similar (pero no exactamente similar) de Wikipedia, sitios web extra\u00eddos de enlaces compartidos en Reddit y un conjunto de \u00abdemostraciones humanas\u00bb recopiladas para un sistema anterior de generaci\u00f3n de texto OpenAI. (Sin embargo, OpenAI admite en un documento de soporte que podr\u00eda haber clasificado err\u00f3neamente inadvertidamente alg\u00fan texto escrito por IA como escrito por humanos \u00abdada la proliferaci\u00f3n de contenido generado por IA en Internet\u00bb).<\/p>\n
El clasificador de texto de OpenAI no funcionar\u00e1 con cualquier texto, lo que es m\u00e1s importante. Necesita un m\u00ednimo de 1000 caracteres, o alrededor de 150 a 250 palabras. No detecta el plagio, una limitaci\u00f3n especialmente desafortunada considerando que se ha demostrado que la IA generadora de texto regurgita el texto en el que fue entrenada. Y OpenAI dice que es m\u00e1s probable que se equivoque en el texto escrito por ni\u00f1os o en un idioma que no sea ingl\u00e9s, debido a su conjunto de datos en ingl\u00e9s.<\/p>\n
El detector cubre un poco su respuesta al evaluar si un fragmento de texto determinado es generado por IA. Dependiendo de su nivel de confianza, etiquetar\u00e1 el texto como \u00abmuy poco probable\u00bb generado por IA (menos del 10 % de probabilidad), \u00abpoco probable\u00bb generado por IA (entre un 10 % y 45 % de probabilidad), \u00abpoco claro si es \u201d Generado por IA (una probabilidad del 45 % al 90 %), \u201cposiblemente\u201d generado por la IA (una probabilidad del 90 % al 98 %) o \u201cprobablemente\u201d generado por la IA (una probabilidad superior al 98 %).<\/p>\n
Por curiosidad, pas\u00e9 algo de texto por el clasificador para ver c\u00f3mo funcionaba. Si bien predijo correctamente y con confianza que varios p\u00e1rrafos de un art\u00edculo de TechCrunch sobre Horizon Worlds de Meta y un fragmento de una p\u00e1gina de soporte de OpenAI no fueron generados por IA, el clasificador tuvo m\u00e1s dificultades con el texto de la longitud del art\u00edculo de ChatGPT y, en \u00faltima instancia, no logr\u00f3 clasificarlo. en total. Sin embargo, detect\u00f3 con \u00e9xito la salida de ChatGPT de un art\u00edculo de Gizmodo sobre, \u00bfqu\u00e9 m\u00e1s? \u2014 ChatGPT.<\/p>\n
Seg\u00fan OpenAI, el clasificador etiqueta incorrectamente el texto escrito por humanos como escrito por IA el 9% de las veces. Este error no ocurri\u00f3 en mis pruebas, pero lo atribuyo al peque\u00f1o tama\u00f1o de la muestra.<\/p>\n
Cr\u00e9ditos de imagen:<\/strong> IA abierta<\/p>\n<\/div>\n En un nivel pr\u00e1ctico, encontr\u00e9 que el clasificador no es particularmente \u00fatil para evaluar escritos m\u00e1s cortos. De hecho, 1000 caracteres es un umbral dif\u00edcil de alcanzar en el \u00e1mbito de los mensajes, por ejemplo, los correos electr\u00f3nicos (al menos los que recibo regularmente). Y las limitaciones dan pausa: OpenAI enfatiza que el clasificador se puede evadir modificando algunas palabras o cl\u00e1usulas en el texto generado.<\/p>\n Eso no quiere decir que el clasificador sea in\u00fatil, ni mucho menos. Pero ciertamente no detendr\u00e1 a los estafadores comprometidos (o estudiantes, para el caso) en su estado actual.<\/p>\n La pregunta es, \u00bfhabr\u00e1n otras herramientas? Ha surgido una especie de industria artesanal para satisfacer la demanda de detectores de texto generados por IA. ChatZero, desarrollado por un estudiante de la Universidad de Princeton, utiliza criterios que incluyen \u00abperplejidad\u00bb (la complejidad del texto) y \u00abr\u00e1fagas\u00bb (las variaciones de las oraciones) para detectar si el texto podr\u00eda estar escrito por IA. Detector de plagio Turnitin est\u00e1 desarrollando su propio detector de texto generado por IA. M\u00e1s all\u00e1 de eso, una b\u00fasqueda en Google arroja al menos media docena de otras aplicaciones que afirman ser capaces de separar el trigo generado por IA de la paja generada por humanos, para torturar la met\u00e1fora.<\/p>\n Es probable que se convierta en un juego del gato y el rat\u00f3n. A medida que mejora la IA que genera texto, tambi\u00e9n lo har\u00e1n los detectores, un ir y venir interminable similar al que se da entre los ciberdelincuentes y los investigadores de seguridad. Y como escribe OpenAI, si bien los clasificadores pueden ayudar en ciertas circunstancias, nunca ser\u00e1n una \u00fanica prueba confiable para decidir si el texto fue generado por IA.<\/p>\n Eso es todo para decir que no hay una bala de plata para resolver los problemas que plantea el texto generado por IA. Es muy probable que nunca lo haya.<\/p>\n<\/p><\/div>\n