\n
En unos pocos meses, la idea de art\u00edculos period\u00edsticos convincentes escritos \u00edntegramente por computadoras ha pasado de ser un absurdo percibido a una realidad que es ya confunde a algunos lectores<\/span>. Ahora, escritores, editores y Responsables pol\u00edticos<\/span> se esfuerzan por desarrollar est\u00e1ndares para mantener la confianza en un mundo donde el texto generado por IA aparecer\u00e1 cada vez m\u00e1s disperso en las noticias.<\/p>\n\n
\n
\n
\n
\n
\n
\n
\n
\u00bfGenerar video a trav\u00e9s de texto? | Tecnolog\u00eda del futuro<\/p>\n<\/div>\n
<\/video><\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\nLas principales publicaciones tecnol\u00f3gicas como CNET ya han sido atrapados con la mano en el tarro de galletas de IA generativa<\/span> y he tenido que emitir correcciones a art\u00edculos escritos por chatbots al estilo ChatGPT, que son propensos a errores f\u00e1cticos. Otras instituciones principales, como Insider, est\u00e1n explorando el uso de IA en art\u00edculos de noticias<\/span> con notablemente m\u00e1s moderaci\u00f3n, al menos por ahora. En el extremo m\u00e1s dist\u00f3pico del espectro, la baja calidad las granjas de contenido ya est\u00e1n usando chatbots para producir noticias<\/span>, algunos de los cuales contienen falsedades f\u00e1cticas potencialmente peligrosas. Estos esfuerzos son, sin duda, toscos, pero eso podr\u00eda cambiar r\u00e1pidamente a medida que la tecnolog\u00eda madure. <\/p>\nLos problemas relacionados con la transparencia y la responsabilidad de la IA se encuentran entre los desaf\u00edos m\u00e1s dif\u00edciles que ocupan la mente de Arjun Narayan, Jefe de Confianza y Seguridad de SmartNews, una aplicaci\u00f3n de descubrimiento de noticias disponible en m\u00e1s de 150 pa\u00edses que utiliza un algoritmo de recomendaci\u00f3n personalizado con un objetivo declarado<\/span> de \u201centregar la informaci\u00f3n de calidad del mundo a las personas que la necesitan\u201d. Antes de SmartNews, Narayan trabaj\u00f3 como l\u00edder de confianza y seguridad en ByteDance y Google. De alguna manera, los desaf\u00edos aparentemente repentinos que plantean los generadores de noticias de IA en la actualidad son el resultado de una acumulaci\u00f3n gradual de algoritmos de recomendaci\u00f3n y otros productos de IA que Narayan ha ayudado a supervisar durante m\u00e1s de veinte a\u00f1os. Narayan habl\u00f3 con Gizmodo sobre la complejidad del momento actual, c\u00f3mo las organizaciones de noticias deben abordar el contenido de IA de manera que pueda generar y nutrir la confianza de los lectores, y qu\u00e9 esperar en el incierto futuro cercano de la IA generativa.<\/p>\nEsta entrevista ha sido editada por su extensi\u00f3n y claridad.<\/p>\n
\u00bfCu\u00e1les cree que son algunos de los mayores desaf\u00edos imprevistos que plantea la IA generativa desde una perspectiva de confianza y seguridad?<\/strong><\/h3>\nHay un par de riesgos. El primero se trata de asegurarse de que los sistemas de IA se entrenen correctamente y se entrenen con la verdad b\u00e1sica correcta. Es m\u00e1s dif\u00edcil para nosotros trabajar hacia atr\u00e1s y tratar de entender por qu\u00e9 ciertas decisiones salieron como lo hicieron. Es extremadamente importante calibrar y curar cuidadosamente cualquier punto de datos que ingrese para entrenar el sistema de IA. <\/p>\n
Cuando una IA toma una decisi\u00f3n, puedes atribuirle algo de l\u00f3gica, pero en la mayor\u00eda de los casos es una especie de caja negra. Es importante reconocer que la IA puede idear cosas e inventar cosas que no son ciertas o que ni siquiera existen. El t\u00e9rmino de la industria es \u00abalucinaci\u00f3n\u00bb. Lo correcto es decir, \u201coye, no tengo suficientes datos, no s\u00e9\u201d.<\/p>\n
Luego est\u00e1n las implicaciones para la sociedad. A medida que la IA generativa se implemente en m\u00e1s sectores industriales, habr\u00e1 interrupciones. Tenemos que preguntarnos si tenemos el orden social y econ\u00f3mico adecuado para hacer frente a ese tipo de disrupci\u00f3n tecnol\u00f3gica. \u00bfQu\u00e9 pasa con las personas que son desplazadas y no tienen trabajo? Lo que podr\u00edan ser otros 30 o 40 a\u00f1os antes de que las cosas se generalicen ahora son cinco o diez a\u00f1os. Eso no les da a los gobiernos ni a los reguladores mucho tiempo para prepararse para esto. O para que los formuladores de pol\u00edticas tengan barandas en su lugar. Estas son cosas que los gobiernos y la sociedad civil deben analizar. <\/strong><\/p>\n\u00bfCu\u00e1les son algunos de los peligros o desaf\u00edos que ve con los esfuerzos recientes de las organizaciones de noticias para generar contenido utilizando IA?<\/strong><\/h3>\nEs importante comprender que puede ser dif\u00edcil detectar qu\u00e9 historias est\u00e1n escritas completamente por IA y cu\u00e1les no. Esa distinci\u00f3n se est\u00e1 desvaneciendo.<\/strong> Si entreno un modelo de IA para aprender c\u00f3mo escribe Mack su editorial, tal vez el pr\u00f3ximo que genere la IA sea muy del estilo de Mack. No creo que estemos all\u00ed todav\u00eda, pero muy bien podr\u00eda ser el futuro. Entonces hay una pregunta sobre la \u00e9tica period\u00edstica. \u00bfEs eso justo? \u00bfQui\u00e9n tiene ese copyright, qui\u00e9n posee esa IP? <\/p>\nNecesitamos tener alg\u00fan tipo de primeros principios. Personalmente, creo que no hay nada de malo en que AI genere un art\u00edculo, pero es importante ser transparente para el usuario de que este contenido fue generado por AI. Es importante para nosotros indicar, ya sea en una l\u00ednea de autor o en una divulgaci\u00f3n, que el contenido fue generado total o parcialmente por IA. Siempre y cuando cumpla con su est\u00e1ndar de calidad o est\u00e1ndar editorial, \u00bfpor qu\u00e9 no? <\/p>\n
Otro primer principio: hay muchas ocasiones en que la IA alucina o cuando el contenido que sale puede tener inexactitudes objetivas. Creo que es importante que los medios y las publicaciones, o incluso los agregadores de noticias, entiendan que se necesita un equipo editorial o un equipo de est\u00e1ndares, o como quieras llamarlo, que est\u00e9 revisando todo lo que sale de ese sistema de IA. Verifique su precisi\u00f3n, verifique sus inclinaciones pol\u00edticas. Todav\u00eda necesita supervisi\u00f3n humana. Necesita verificaci\u00f3n y curaci\u00f3n de est\u00e1ndares y valores editoriales. Mientras se cumplan estos primeros principios, creo que tenemos un camino a seguir.<\/p>\n
Sin embargo, \u00bfqu\u00e9 haces cuando una IA genera una historia e inyecta alguna opini\u00f3n o an\u00e1lisis? \u00bfC\u00f3mo discernir\u00eda un lector de d\u00f3nde proviene esa opini\u00f3n si no puede rastrear la informaci\u00f3n de un conjunto de datos?<\/strong><\/h3>\nPor lo general, si usted es el autor humano y una IA est\u00e1 escribiendo la historia, el humano todav\u00eda se considera el autor. Piense en ello como una l\u00ednea de montaje. Entonces, hay una l\u00ednea de ensamblaje de Toyota donde los robots est\u00e1n ensamblando un autom\u00f3vil. Si el producto final tiene una bolsa de aire defectuosa o tiene un volante defectuoso, Toyota a\u00fan se hace cargo de eso, independientemente del hecho de que un robot haya fabricado esa bolsa de aire. Cuando se trata del resultado final, es la publicaci\u00f3n de noticias la responsable. Est\u00e1s poniendo tu nombre en \u00e9l. Entonces, cuando se trata de autor\u00eda o inclinaci\u00f3n pol\u00edtica, cualquiera que sea la opini\u00f3n que le d\u00e9 el modelo de IA, todav\u00eda lo est\u00e1 sellando.<\/p>\n
Todav\u00eda estamos temprano aqu\u00ed, pero ya hay <\/strong>informes de granjas de contenido utilizando modelos de IA<\/strong><\/span>, a menudo de manera muy perezosa, para producir contenido de baja calidad o incluso enga\u00f1oso para generar ingresos publicitarios. Incluso si algunas publicaciones acuerdan ser transparentes, \u00bfexiste el riesgo de que acciones como estas puedan reducir inevitablemente la confianza en las noticias en general?<\/strong><\/h3>\nA medida que avanza la IA, hay ciertas formas en las que quiz\u00e1s podamos detectar si algo fue escrito por la IA o no, pero a\u00fan es muy incipiente. No es muy preciso y no es muy eficaz. Aqu\u00ed es donde la industria de la confianza y la seguridad debe ponerse al d\u00eda sobre c\u00f3mo detectamos los medios sint\u00e9ticos frente a los medios no sint\u00e9ticos. Para videos, hay algunas formas de detectar falsificaciones profundas, pero los grados de precisi\u00f3n difieren. Creo que la tecnolog\u00eda de detecci\u00f3n probablemente se pondr\u00e1 al d\u00eda a medida que avance la IA, pero esta es un \u00e1rea que requiere m\u00e1s inversi\u00f3n y m\u00e1s exploraci\u00f3n.<\/p>\n
\u00bfCree que la aceleraci\u00f3n de la IA podr\u00eda alentar a las empresas de redes sociales a confiar a\u00fan m\u00e1s en la IA para la moderaci\u00f3n de contenido? \u00bfSiempre habr\u00e1 un rol para el moderador de contenido humano en el futuro?<\/strong><\/h3>\nPara cada problema, como el discurso de odio, la desinformaci\u00f3n o el acoso, generalmente tenemos modelos que trabajan mano a mano con moderadores humanos. Hay un alto grado de precisi\u00f3n para algunas de las \u00e1reas tem\u00e1ticas m\u00e1s maduras; discurso de odio en el texto, por ejemplo. En buena medida, la IA es capaz de detectarlo a medida que se publica o cuando alguien lo escribe. <\/p>\n
Sin embargo, ese grado de precisi\u00f3n no es el mismo para todas las \u00e1reas problem\u00e1ticas. Por lo tanto, es posible que tengamos un modelo bastante maduro para el discurso de odio, ya que existe desde hace 100 a\u00f1os, pero tal vez para la informaci\u00f3n err\u00f3nea sobre la salud o la informaci\u00f3n err\u00f3nea sobre el covid, es posible que se necesite m\u00e1s capacitaci\u00f3n en IA. Por ahora, puedo decir con seguridad que a\u00fan necesitaremos mucho contexto humano. Los modelos no est\u00e1n all\u00ed todav\u00eda. Todav\u00eda habr\u00e1 humanos en el circuito y seguir\u00e1 siendo un continuo de aprendizaje humano-m\u00e1quina en el espacio de confianza y seguridad. La tecnolog\u00eda siempre est\u00e1 tratando de ponerse al d\u00eda con los actores de amenazas.<\/p>\n
\u00bfQu\u00e9 opina de las principales empresas de tecnolog\u00eda que han despedido a una parte importante de sus equipos de confianza y seguridad en los \u00faltimos meses con la justificaci\u00f3n de que eran prescindibles?<\/strong><\/h3>\nme preocupa No solo confianza y seguridad, sino tambi\u00e9n equipos de \u00e9tica de IA. Siento que las empresas de tecnolog\u00eda son c\u00edrculos conc\u00e9ntricos. La ingenier\u00eda es el c\u00edrculo m\u00e1s interno, mientras que el reclutamiento de recursos humanos, la \u00e9tica de la IA, la confianza y la seguridad son todos los c\u00edrculos externos y se dejan llevar. A medida que desinvertimos, \u00bfestamos esperando que la mierda llegue al ventilador? \u00bfSer\u00eda entonces demasiado tarde para reinvertir o corregir el rumbo? <\/p>\n
Estoy feliz de que se demuestre que estoy equivocado, pero en general estoy preocupado. Necesitamos m\u00e1s personas que est\u00e9n pensando en estos pasos y que le den el espacio de cabeza dedicado para mitigar los riesgos. De lo contrario, la sociedad tal como la conocemos, el mundo libre tal como lo conocemos, correr\u00e1 un riesgo considerable. Sinceramente, creo que debe haber m\u00e1s inversi\u00f3n en confianza y seguridad.<\/p>\n