Decenas de miles de sitios web más pequeños que se preparan para cumplir con las nuevas medidas contra el extremismo introducidas por la Unión Europea pronto tendrán un nuevo e inesperado aliado: Google.
El gigante de las búsquedas, a menudo un puñetazos bolso para empresas más pequeñas que las acusan de prácticas anticompetitivas percibidas— está desarrollando un software gratuito de moderación de contenido para ayudar a los sitios a monitorear y eliminar material terrorista. La nueva herramienta de Google, reportado por primera vez en por el tiempo financieroviene pisándole los talones a un iniciativa similar de Meta, y tiene por objeto ayudar a las empresas más pequeñas con menos recursos a mantenerse alejadas de las sanciones potencialmente aplastantes impuestas por la Unión Europea Ley de Servicios Digitales.
La herramienta de moderación, construida a través de una asociación entre el brazo de investigación y desarrollo de Jigsaw de Google y Tech Against Terrorism, respaldado por las Naciones Unidas, se basará en una base de datos de contenido terrorista sospechoso recopilado por la organización sin fines de lucro Foro Global de Internet para Contrarrestar el Terrorismo formado por Facebook, Microsoft, Twitter y YouTube en 2017. Si bien Meta anunció recientemente un software de detección antiterrorista de código abierto que ayudará a los sitios a comparar contenido potencialmente dañino con esa base de datos, el tiempo financiero notas del informe Las herramientas de Google ayudarán a los moderadores humanos a dar el siguiente paso y decidir qué medidas de cumplimiento implementar con el contenido marcado como dañino.
La Ley de Servicios Digitales, que entró en vigor en noviembre pasado, codifica las regulaciones anteriores que exigían que los sitios web y las plataformas eliminen el contenido terrorista en el plazo de una hora después de recibir una orden de eliminación o se enfrentan a fuertes multas. Aunque esas medidas de cumplimiento están destinadas a tomar medidas enérgicas contra el contenido extremista, también tienen las posibles consecuencias no deseadas de la desproporcionalidad dirigida a las empresas más pequeñas. Si bien los gigantes de Big Tech como Google y Meta han utilizado sus bolsillos profundos e inversiones en inteligencia artificial para aumentar sus tasas de detección de terrorismo, las nuevas empresas y las empresas más pequeñas a menudo carecen de esas mismas capacidades.
“Hay muchos sitios web que simplemente no tienen personas para hacer cumplir la ley”, dijo la directora ejecutiva de Jigsaw, Yasmin Green. El tiempo financiero. “Es algo realmente laborioso incluso construir los algoritmos [and] entonces necesitas a todos esos revisores humanos”.
G/O Media puede recibir una comisión
El director ejecutivo de Tech Against Terrorism, Adam Hadley, se hizo eco de ese punto en un correo electrónico a Gizmodo.
“Según nuestra experiencia, encontramos que los terroristas buscan explotar plataformas más pequeñas donde la moderación del contenido es un desafío debido a los recursos limitados”, dijo Hadley. “Al aumentar nuestros esfuerzos existentes para alertar a las empresas de tecnología, esta iniciativa está diseñada para ayudar a las plataformas que están inundadas por la amenaza y no tienen la capacidad de clasificar miles de solicitudes de referencia”.
Un portavoz de Google le dijo a Gizmodo en un correo electrónico: “El terrorismo es un ataque a las sociedades abiertas, y abordar la amenaza que representan la violencia y el odio es un desafío crítico para todos nosotros. Jigsaw y Tech Against Terrorism, en colaboración con el Foro Global de Internet para Contrarrestar el Terrorismo (GIFCT), están trabajando para desarrollar una nueva aplicación web que permita a las plataformas pequeñas y medianas clasificar y tomar medidas sobre las URL y los hash que existen en la lucha contra el terrorismo. bases de datos sobre terrorismo”. El portavoz continuó diciendo: “Esta coalición de socios invertirá en la investigación de formas de apoyar a las plataformas pequeñas y medianas para frenar la propagación de contenido extremista violento”.
Google no está necesariamente ayudando a estos sitios pequeños y medianos simplemente por la bondad de su corazón. Aunque no se espera que el proyecto genere ganancias a corto plazo, dijo Green el tiempo financiero lo mejor para Google es respaldar una web que cumpla con las normas y que no sea antiterrorista.
“Se entiende que hay un rendimiento comercial a largo plazo”, dijo Green. “Google necesita un Internet más saludable”.
La noticia de la herramienta de Google llega aproximadamente un mes después de Meta Anunciado pondría su nueva herramienta de moderación “Hasher-Matcher-Actioner” (HMA) a disposición de una amplia gama de empresas interesadas en detectar contenido terrorista o extremista. En ese caso, la herramienta HMA utiliza hashes de contenido terrorista conocido para permitir que las plataformas o los sitios detecten imágenes o videos duplicados y luego potencialmente tomen medidas coercitivas contra ellos.
Actualización, 4/1/2022, 11:20 a. m. EST: Declaración añadida de Tech Against Terrorism.