\n<\/p>\n
Cuando WIRED pregunt\u00f3<\/span> para cubrir el bolet\u00edn de esta semana, mi primer instinto fue preguntarle a ChatGPT, el chatbot viral de OpenAI, para ver qu\u00e9 se le ocurr\u00eda. Es lo que he estado haciendo con correos electr\u00f3nicos, recetas y publicaciones de LinkedIn toda la semana. La productividad ha bajado mucho, pero los chistes atrevidos sobre Elon Musk han subido un 1000 por ciento.<\/p>\n Le ped\u00ed al bot que escribiera una columna sobre s\u00ed mismo al estilo de Steven Levy, pero los resultados no fueron muy buenos. ChatGPT ofreci\u00f3 comentarios gen\u00e9ricos sobre la promesa y las trampas de la IA, pero en realidad no capt\u00f3 la voz de Steven ni dijo nada nuevo. Como escrib\u00ed la semana pasada, era fluido, pero no del todo convincente. Pero me hizo pensar: \u00bfMe habr\u00eda salido con la m\u00eda? \u00bfY qu\u00e9 sistemas podr\u00edan atrapar a las personas que usan IA para cosas que realmente no deber\u00edan, ya sean correos electr\u00f3nicos de trabajo o ensayos universitarios?<\/p>\n Para averiguarlo, habl\u00e9 con Sandra Wachter, profesora de tecnolog\u00eda y regulaci\u00f3n en el Instituto de Internet de Oxford, quien habla elocuentemente sobre c\u00f3mo incorporar transparencia y responsabilidad en los algoritmos. Le pregunt\u00e9 c\u00f3mo ser\u00eda eso para un sistema como ChatGPT.<\/p>\n Amit Katwala: ChatGPT puede escribir de todo, desde poes\u00eda cl\u00e1sica hasta textos publicitarios ins\u00edpidos, pero un gran tema de conversaci\u00f3n esta semana ha sido si podr\u00eda ayudar a los estudiantes a hacer trampa. \u00bfCrees que podr\u00edas decir si uno de tus estudiantes lo hab\u00eda usado para escribir un art\u00edculo?<\/strong><\/p>\n Sandra Wachter: Esto comenzar\u00e1 a ser un juego del gato y el rat\u00f3n. Tal vez la tecnolog\u00eda a\u00fan no sea lo suficientemente buena como para enga\u00f1arme como una persona que ense\u00f1a derecho, pero puede ser lo suficientemente buena para convencer a alguien que no est\u00e1 en esa \u00e1rea. Me pregunto si la tecnolog\u00eda mejorar\u00e1 con el tiempo hasta el punto de poder enga\u00f1arme a m\u00ed tambi\u00e9n. Es posible que necesitemos herramientas t\u00e9cnicas para asegurarnos de que lo que estamos viendo sea creado por un ser humano, de la misma manera que tenemos herramientas para falsificaciones profundas y detecci\u00f3n de fotos editadas.<\/p>\n Eso parece intr\u00ednsecamente m\u00e1s dif\u00edcil de hacer para el texto que para las im\u00e1genes falsificadas, porque hay menos artefactos y signos reveladores. Quiz\u00e1s cualquier soluci\u00f3n confiable deba ser construida por la empresa que genera el texto en primer lugar.<\/strong> <\/p>\n Necesita tener la aceptaci\u00f3n de quien est\u00e9 creando esa herramienta. Pero si ofrezco servicios a los estudiantes, puede que no sea el tipo de empresa que se va a someter a eso. Y puede haber una situaci\u00f3n en la que incluso si pone marcas de agua, son removibles. Los grupos muy expertos en tecnolog\u00eda probablemente encontrar\u00e1n la manera. Pero hay una herramienta tecnol\u00f3gica real [built with OpenAI\u2019s input] que le permite detectar si la salida se crea artificialmente. <\/p>\n \u00bfC\u00f3mo ser\u00eda una versi\u00f3n de ChatGPT dise\u00f1ada pensando en la reducci\u00f3n de da\u00f1os?<\/strong> <\/p>\n Un par de cosas. Primero, realmente dir\u00eda que quienquiera que est\u00e9 creando esas herramientas puso marcas de agua en su lugar. Y tal vez la Ley de IA propuesta por la UE pueda ayudar, porque trata con la transparencia en torno a los bots y dice que siempre debe estar atento cuando algo no es real. Pero es posible que las empresas no quieran hacer eso, y tal vez se puedan eliminar las marcas de agua. Entonces, se trata de fomentar la investigaci\u00f3n de herramientas independientes que analicen los resultados de la IA. Y en educaci\u00f3n, tenemos que ser m\u00e1s creativos sobre c\u00f3mo evaluamos a los estudiantes y c\u00f3mo escribimos trabajos: \u00bfQu\u00e9 tipo de preguntas podemos hacer que sean menos f\u00e1ciles de falsificar? Tiene que ser una combinaci\u00f3n de tecnolog\u00eda y supervisi\u00f3n humana que nos ayude a frenar la interrupci\u00f3n.<\/p>\n<\/div>\n