La nueva herramienta se puede integrar directamente en el backend de cualquier plataforma con la que esté trabajando. Luego se conecta a la propia plataforma de análisis de contenido terrorista de Tech Against Terrorism, que centraliza la colección de contenido creado por organizaciones terroristas oficialmente designadas. La base de datos permite a todas las plataformas que utilizan Altitude comprobar fácilmente si un contenido ha sido verificado como contenido terrorista.
Altitude también proporcionará contexto sobre los grupos terroristas con los que está asociado el contenido, otros ejemplos de este tipo de material, información sobre lo que otras plataformas han hecho con el material y, eventualmente, incluso información relacionada con las leyes pertinentes de un país o país en particular. región.
«No estamos aquí para decirle a las plataformas qué hacer, sino más bien para brindarles toda la información que necesitan para tomar la decisión de moderación», le dijo a WIRED Adam Hadley, director ejecutivo de Tech Against Terrorism. «Queremos mejorar la calidad «No se trata del volumen de material eliminado, sino de garantizar que el peor material se elimine de una manera que apoye el estado de derecho».
Tech Against Terrorism trabaja con más de 100 plataformas, casi todas las cuales no quieren ser nombradas debido al impacto negativo en su negocio de estar vinculadas a contenido terrorista. El tipo de empresas con las que trabaja Tech Against Terrorism incluyen pastbins, aplicaciones de mensajería, plataformas para compartir vídeos, redes sociales y foros.
Para muchas de estas plataformas más pequeñas, lidiar con solicitudes de eliminación de gobiernos, organizaciones de la sociedad civil, fuerzas del orden y los propios usuarios de la plataforma puede ser abrumador y hacer que las empresas se vayan a un extremo u otro.
«Las plataformas pueden verse fácilmente abrumadas por las solicitudes de eliminación y las ignoran todas o eliminan todo», dice Hadley. «Lo que estamos buscando es tratar de crear un entorno donde las plataformas tengan las herramientas para poder evaluar adecuadamente si deben eliminar material o no, porque es imperativo eliminar el contenido terrorista, pero también es muy importante que» No estamos simplemente eliminando ningún contenido por preocupaciones sobre la libertad de expresión”.
La guerra entre Israel y Hamas ha demostrado el importante papel que sigue desempeñando Telegram al permitir que los grupos terroristas difundan sus mensajes. Si bien los esfuerzos para exigir cuentas a Telegram han tenido un éxito limitado en las últimas semanas, el contenido terrorista sigue siendo accesible, y es desde aquí que el contenido se comparte rápidamente en una multitud de otras plataformas. Y aquí es donde la herramienta Altitud puede marcar la diferencia, según Hadley.
«Lo ideal sería que el contenido no se publicara en Telegram en primer lugar», dice Hadley. “Pero dado que así es, lo mejor que podemos hacer es asegurarnos de que otras plataformas que están siendo cooptadas por terroristas estén al tanto de esta actividad y tengan la información correcta para eliminar el material de manera adecuada. «