\n<\/p>\n
Meta, al igual que otras empresas tecnol\u00f3gicas l\u00edderes, pas\u00f3 el a\u00f1o pasado prometiendo acelerar el despliegue de inteligencia artificial generativa. Hoy reconoci\u00f3 que tambi\u00e9n debe responder a los peligros de la tecnolog\u00eda, anunciando una pol\u00edtica ampliada de etiquetar las im\u00e1genes generadas por IA publicadas en Facebook, Instagram y Threads con etiquetas de advertencia para informar a las personas sobre sus or\u00edgenes artificiales.<\/p>\n
Sin embargo, es poco probable que gran parte de los medios sint\u00e9ticos que probablemente aparezcan en las plataformas de Meta est\u00e9n cubiertos por la nueva pol\u00edtica, lo que deja muchas lagunas por las que los actores maliciosos podr\u00edan colarse. \u00abEs un paso en la direcci\u00f3n correcta, pero presenta desaf\u00edos\u00bb, dice Sam Gregory, director de programa de la organizaci\u00f3n sin fines de lucro Witness, que ayuda a las personas a utilizar la tecnolog\u00eda para apoyar los derechos humanos.<\/p>\n
Meta ya etiqueta las im\u00e1genes generadas por IA creadas con sus propias herramientas de IA generativa con la etiqueta \u00abImaginadas con IA\u00bb, en parte buscando la \u00abmarca de agua\u00bb digital que sus algoritmos incorporan en su salida. Ahora Meta dice que en los pr\u00f3ximos meses tambi\u00e9n etiquetar\u00e1 im\u00e1genes de IA creadas con herramientas ofrecidas por otras empresas que incorporan marcas de agua en su tecnolog\u00eda.<\/p>\n
Se supone que la pol\u00edtica reducir\u00e1 el riesgo de que se difunda informaci\u00f3n err\u00f3nea o desinformaci\u00f3n mediante im\u00e1genes generadas por IA que se hacen pasar por fotograf\u00edas. Pero aunque Meta dijo que est\u00e1 trabajando para respaldar la tecnolog\u00eda de divulgaci\u00f3n en desarrollo en Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock, la tecnolog\u00eda a\u00fan no est\u00e1 ampliamente implementada. Y hay muchas herramientas de generaci\u00f3n de im\u00e1genes de IA disponibles que no ponen marcas de agua en su salida, y la tecnolog\u00eda es cada vez m\u00e1s f\u00e1cil de acceder y modificar. \u00abLa \u00fanica manera de que un sistema como ese sea eficaz es si participa una amplia gama de herramientas y plataformas generativas\u00bb, afirma Gregory.<\/p>\n
Incluso si existe un amplio apoyo para las marcas de agua, no est\u00e1 claro qu\u00e9 tan s\u00f3lida ser\u00e1 la protecci\u00f3n que ofrezca. No existe un est\u00e1ndar implementado universalmente, pero la Coalici\u00f3n para la Procedencia y Autenticidad del Contenido (C2PA), una iniciativa fundada por Adobe, ha ayudado a las empresas a comenzar a alinear su trabajo en torno al concepto. Pero la tecnolog\u00eda desarrollada hasta ahora no es infalible. En un estudio publicado el a\u00f1o pasado, los investigadores descubrieron que pod\u00edan romper f\u00e1cilmente las marcas de agua o agregarlas a im\u00e1genes que no hab\u00edan sido generadas por IA para que pareciera que s\u00ed lo eran.<\/p>\n
Laguna jur\u00eddica maliciosa<\/p>\n
Hany Farid, profesor de la Escuela de Informaci\u00f3n de UC Berkeley que ha asesorado la iniciativa C2PA, dice que cualquier persona interesada en utilizar la IA generativa de forma maliciosa probablemente recurrir\u00e1 a herramientas que no marquen su producci\u00f3n ni traicionen su naturaleza. Por ejemplo, los creadores de la llamada autom\u00e1tica falsa que utiliz\u00f3 la voz del presidente Joe Biden dirigida a algunos votantes de New Hampshire el mes pasado no agregaron ninguna revelaci\u00f3n sobre sus or\u00edgenes.<\/p>\n
Y cree que las empresas deber\u00edan estar preparadas para que los malos actores apunten a cualquier m\u00e9todo que intenten utilizar para identificar la procedencia del contenido. Farid sospecha que es posible que sea necesario utilizar m\u00faltiples formas de identificaci\u00f3n en conjunto para identificar de manera s\u00f3lida las im\u00e1genes generadas por IA, por ejemplo, combinando marcas de agua con tecnolog\u00eda basada en hash utilizada para crear listas de vigilancia de material de abuso sexual infantil. Y la marca de agua es un concepto menos desarrollado para los medios generados por IA distintos de las im\u00e1genes, como el audio y el v\u00eddeo.<\/p>\n
\u00abSi bien las empresas est\u00e1n empezando a incluir se\u00f1ales en sus generadores de im\u00e1genes, no han comenzado a incluirlas en herramientas de inteligencia artificial que generan audio y video a la misma escala, por lo que todav\u00eda no podemos detectar esas se\u00f1ales y etiquetar este contenido de otras empresas\u00bb. \u201d, reconoce el portavoz de Meta, Kevin McAlister. \u00abMientras la industria trabaja para lograr esta capacidad, estamos agregando una funci\u00f3n para que las personas revelen cuando comparten video o audio generado por IA para que podamos agregarle una etiqueta\u00bb.<\/p>\n
Las nuevas pol\u00edticas de Meta pueden ayudarle a detectar m\u00e1s contenido falso, pero no todos los medios manipulados son generados por IA. Un fallo publicado el lunes por la Junta de Supervisi\u00f3n de expertos independientes de Meta, que revisa algunas llamadas de moderaci\u00f3n, confirm\u00f3 la decisi\u00f3n de la compa\u00f1\u00eda de dejar un video del presidente Joe Biden que hab\u00eda sido editado para que pareciera que est\u00e1 tocando inapropiadamente el pecho de su nieta. Pero la junta dijo que si bien el video, que no fue generado por IA, no violaba las pol\u00edticas actuales de Meta, deber\u00eda revisar y ampliar sus reglas para \u00abmedios manipulados\u00bb para cubrir m\u00e1s que solo contenido generado por IA.<\/p>\n
McAlister, el portavoz de Meta, dice que la compa\u00f1\u00eda est\u00e1 \u00abrevisando las directrices de la Junta de Supervisi\u00f3n y responder\u00e1 p\u00fablicamente a sus recomendaciones dentro de los 60 d\u00edas de conformidad con los estatutos\u00bb. Farid dice que ese agujero en las pol\u00edticas de Meta, y el enfoque t\u00e9cnico en im\u00e1genes generadas por IA con marcas de agua, sugiere que el plan de la compa\u00f1\u00eda para la era de la IA gen. est\u00e1 incompleto.<\/p>\n<\/div>\n