\n<\/p>\n
OpenAI ha cerrado su clasificador de IA, una herramienta que pretend\u00eda determinar la probabilidad de que otra IA escribiera un pasaje de texto. Si bien muchos lo usaron y quiz\u00e1s confiaron imprudentemente en \u00e9l para detectar trampas de bajo esfuerzo, OpenAI lo retir\u00f3 debido a su \u00abbaja tasa de precisi\u00f3n\u00bb ampliamente criticada.<\/p>\n
La teor\u00eda de que el texto generado por IA tiene alguna caracter\u00edstica o patr\u00f3n de identificaci\u00f3n que se puede detectar de manera confiable parece intuitiva, pero hasta ahora no se ha confirmado en la pr\u00e1ctica. Aunque algunos textos generados pueden tener una indicaci\u00f3n obvia, las diferencias entre los modelos de lenguaje grandes y la rapidez con la que se han desarrollado han hecho que esas indicaciones sean casi imposibles de confiar.<\/p>\n
La propia prueba de TechCrunch de un grupo de herramientas de detecci\u00f3n de escritura de IA fue concluyente de que, en el mejor de los casos, son impredecibles y, en el peor, totalmente in\u00fatiles. De siete fragmentos de texto generados que se entregaron a una variedad de detectores, GPTZero identific\u00f3 cinco correctamente y el clasificador de OpenAI solo uno. Y eso fue con un modelo de lenguaje que no era de vanguardia ni siquiera en ese momento.<\/p>\n
Pero algunos tomaron las afirmaciones de detecci\u00f3n al pie de la letra, o m\u00e1s bien muy por encima de eso, ya que OpenAI envi\u00f3 la herramienta clasificadora con una lista de limitaciones lo suficientemente significativas como para preguntarse por qu\u00e9 lo sacaron. A la gente le preocupaba que sus estudiantes, solicitantes de empleo o aut\u00f3nomos enviaran texto generado y lo pusieran en el clasificador para probarlo, y aunque no se deber\u00eda haber confiado en los resultados, a veces lo eran.<\/p>\n
Dado que los modelos de lenguaje solo han mejorado y proliferado, parece que alguien en la empresa decidi\u00f3 que era hora de desconectar esta voluble herramienta. \u201cEstamos trabajando para incorporar comentarios y actualmente estamos investigando t\u00e9cnicas de procedencia m\u00e1s efectivas para el texto\u201d, se lee en un anexo del 20 de julio a la publicaci\u00f3n del anuncio del clasificador. (Decrypt parece haber sido el primero en notar el cambio).<\/p>\n
Pregunt\u00e9 sobre el momento y el razonamiento detr\u00e1s del cierre del clasificador, y lo actualizar\u00e9 si recibo una respuesta. Pero es curioso que suceda en el momento en que OpenAI se uni\u00f3 a varias otras compa\u00f1\u00edas en un \u00abcompromiso voluntario\u00bb liderado por la Casa Blanca para desarrollar IA de manera \u00e9tica y transparente.<\/p>\n
Entre los compromisos adquiridos por las empresas est\u00e1 el de desarrollar m\u00e9todos robustos de detecci\u00f3n y\/o marca de agua. O intentando hacerlo, de todos modos: a pesar de que todas las empresas han hecho ruido en este sentido durante los \u00faltimos 6 meses m\u00e1s o menos, a\u00fan no hemos visto ninguna marca de agua o m\u00e9todo de detecci\u00f3n que no se eluda trivialmente.<\/p>\n
Sin duda, el primero en lograr esta haza\u00f1a ser\u00e1 ampliamente recompensado (cualquier herramienta de este tipo, si fuera realmente confiable, ser\u00eda invaluable en innumerables circunstancias), por lo que probablemente sea superfluo incluirla en cualquier acuerdo de IA.<\/p>\n<\/p><\/div>\n