Para detener el abuso de ChatGPT, OpenAI tiene una nueva herramienta que puede decirle si es m\u00e1s probable que un fragmento de texto provenga de un programa de inteligencia artificial o de un ser humano. <\/p>\n
OpenAI present\u00f3 la herramienta \u00abclasificador\u00bb(Se abre en una nueva ventana)<\/span> el martes para ayudar a tomar medidas en\u00e9rgicas contra el texto generado por IA que se hace pasar como proveniente de un ser humano. El problema se ha vuelto especialmente pronunciado en la educaci\u00f3n con estudiantes que explotan ChatGPT para completar sus tareas.<\/p>\n en una entrada de blog(Se abre en una nueva ventana)<\/span>OpenAI tambi\u00e9n se\u00f1al\u00f3 que el texto generado por IA podr\u00eda representar una amenaza cuando se usa para generar texto automatizado para campa\u00f1as de desinformaci\u00f3n. <\/p>\n La herramienta de clasificaci\u00f3n es bastante sencilla: env\u00ede un texto de al menos 1000 caracteres y OpenAI le dir\u00e1 la probabilidad de que provenga de un programa de inteligencia artificial o de un ser humano. La herramienta se cre\u00f3 entrenando un modelo de computadora para discernir entre \u00abpares de texto escrito por humanos y texto escrito por IA sobre el mismo tema\u00bb. <\/p>\n \n<\/p>\n (Cr\u00e9dito: OpenAI) Sin embargo, el laboratorio de San Francisco admite que el clasificador est\u00e1 lejos de ser perfecto. \u201cEn nuestras evaluaciones sobre un ‘conjunto desafiante’ de textos en ingl\u00e9s, nuestro clasificador identifica correctamente el 26 % del texto escrito por IA (verdaderos positivos) como ‘probablemente escrito por IA’, mientras que incorrectamente etiqueta el texto escrito por humanos como 9 % escrito por IA. del tiempo (falsos positivos)\u201d, escribi\u00f3 OpenAI. <\/p>\n La confiabilidad del clasificador tambi\u00e9n disminuye al examinar fragmentos cortos o algunos p\u00e1rrafos de texto. Por lo tanto, la herramienta solo funcionar\u00e1 en env\u00edos de m\u00e1s de 1000 caracteres de longitud. Adem\u00e1s, \u00aba veces, el texto escrito por humanos ser\u00e1 etiquetado incorrectamente pero con confianza como escrito por IA por nuestro clasificador\u00bb, se\u00f1al\u00f3 OpenAI. <\/p>\n \u201cAdem\u00e1s, los estudiantes pueden aprender r\u00e1pidamente c\u00f3mo evadir la detecci\u00f3n modificando algunas palabras o cl\u00e1usulas en el contenido generado\u201d, dijo el laboratorio. <\/p>\n Por lo tanto, OpenAI dice que la herramienta \u00abno debe usarse como una herramienta principal para la toma de decisiones\u00bb cuando se trata de determinar si un texto es generado por IA o no. Pero a pesar de todas las limitaciones, OpenAI decidi\u00f3 lanzar la herramienta, ya que funciona en \u00abmitigaciones\u00bb para evitar que los estudiantes exploten ChatGPT para hacer trampa. <\/p>\n \u00abEstamos haciendo que este clasificador est\u00e9 disponible p\u00fablicamente para recibir comentarios(Se abre en una nueva ventana)<\/span> sobre si las herramientas imperfectas como esta son \u00fatiles\u201d, agreg\u00f3 OpenAI. \u201cNuestro trabajo en la detecci\u00f3n de texto generado por IA continuar\u00e1 y esperamos compartir m\u00e9todos mejorados en el futuro\u201d.<\/p>\n \n<\/p>\n Un ejemplo de un ensayo que ChatGPT puede escribir. (Cr\u00e9dito: IA abierta) Lanzado en noviembre, ChatGPT es tan avanzado que el programa de IA puede escribir ensayos, poemas y responder preguntas de prueba sobre una amplia variedad de temas en segundos. Si bien la calidad de las respuestas puede ser inestable, los investigadores descubrieron que ChatGPT es lo suficientemente inteligente como para (apenas) aprobar un examen de MBA e incluso corregir numerosos errores en el c\u00f3digo de la computadora. <\/p>\n Inevitablemente, la aparici\u00f3n de ChatGPT ha generado dudas sobre si el mismo programa amenaza con socavar la educaci\u00f3n e interrumpir los trabajos administrativos. Algunas escuelas y maestros ya han decidido bloquear el programa de inteligencia artificial en sus redes debido a la preocupaci\u00f3n de que ChatGPT hace que hacer trampa en las tareas y ex\u00e1menes sea demasiado f\u00e1cil. Mientras tanto, algunos terceros han lanzado sus propios(Se abre en una nueva ventana)<\/span> herramientas(Se abre en una nueva ventana)<\/span> para ayudar a los educadores a descubrir el texto generado por IA. <\/p>\n OpenAI dijo que est\u00e1 tratando de abordar los problemas de trampa contactando a los maestros en los EE. UU. para conocer sus experiencias. El laboratorio tambi\u00e9n ha publicado un documento(Se abre en una nueva ventana)<\/span> con consejos sobre c\u00f3mo los educadores pueden introducir y supervisar el uso de ChatGPT en sus aulas de forma segura. <\/p>\n Pero OpenAI tambi\u00e9n se\u00f1al\u00f3 que a\u00fan es demasiado pronto para decir c\u00f3mo los programas como ChatGPT afectar\u00e1n la educaci\u00f3n y la sociedad. \u201cHasta la fecha, hemos visto casos de mejoras en la productividad que transforman los empleos, el desplazamiento de empleos y la creaci\u00f3n de empleos, pero los efectos netos a corto y largo plazo no est\u00e1n claros\u201d, dijo.<\/p>\n Matricularse en \u00bfQu\u00e9 hay de nuevo ahora?<\/strong> para recibir nuestras mejores historias en su bandeja de entrada todas las ma\u00f1anas.<\/p>\n Este bolet\u00edn puede contener publicidad, ofertas o enlaces de afiliados. Suscribirse a un bolet\u00edn informativo indica su consentimiento a nuestros T\u00e9rminos de uso y Pol\u00edtica de privacidad. Puede darse de baja de los boletines en cualquier momento.<\/p>\n<\/p><\/div>\n<\/div>\n<\/div>\n![\"Lo](\"https:\/\/i.pcmag.com\/imagery\/articles\/03WPSGVBZZvbzggI35gK5vG-3.png\")
\n<\/small>\n<\/p>\nRecomendado por Nuestros Editores<\/h3>\n<\/div>\n<\/div>\n
![\"imagen](\"https:\/\/i.pcmag.com\/imagery\/articles\/03WPSGVBZZvbzggI35gK5vG-4.jpg\")
\n<\/small>\n<\/p>\n\u00a1Obtenga nuestras mejores historias!<\/h4>\n