La represión de Facebook contra el discurso de odio aparentemente tiene margen de mejora. Como el poste de washington explica, el organismo de control sin fines de lucro Tech Transparency Project (TTP) ha publicado un estudio que indica que los grupos de supremacistas blancos aún tienen una presencia significativa en la red social. Más de 80 de estas organizaciones racistas tienen presencia en Facebook, algunas de las cuales la compañía ya ha etiquetado como «organizaciones peligrosas» que normalmente prohíbe. Los investigadores encontraron 119 páginas y 20 grupos, incluidas 24 páginas que Facebook generó automáticamente cuando los usuarios enumeraron grupos de supremacistas blancos como empleadores o intereses.
Las búsquedas también fueron problemáticas, según el organismo de control. Facebook mostró anuncios junto a las búsquedas de grupos de supremacistas blancos, incluso cuando esos conjuntos estaban en la lista negra del sitio social. Las recomendaciones dirigieron a los visitantes a otras páginas de odio, y la táctica de Facebook de redirigir a los usuarios a grupos pro-tolerancia solo fue efectiva para el 14 por ciento de las 226 búsquedas. Algunas búsquedas de supremacistas mostraban anuncios de iglesias negras. Esto podría identificar efectivamente los objetivos de los extremistas, dijo TTP.
En un comunicado a Engadget, Meta dijo que «inmediatamente» comenzó a eliminar anuncios de búsquedas vinculadas a grupos prohibidos. También dijo que estaba solucionando el problema con un «pequeño número» de páginas generadas automáticamente. La compañía prometió además seguir trabajando con expertos externos para «mantenerse a la vanguardia» del odio y otros contenidos extremistas. Puede leer la declaración completa a continuación.
La supervivencia de estos grupos en Facebook no es del todo sorprendente. Libby Hemphill, profesora asociada de la Universidad de Michigan, dijo El cargo que los grupos de odio son cada vez más conscientes de cómo eludir las restricciones de contenido. Las plataformas en línea con frecuencia se esfuerzan por adaptarse, y el estudio de TTP sugiere que no siempre tienen éxito.
Aun así, los hallazgos se suman a los dolores de cabeza de Meta. Llegan solo unas semanas después de que GLAAD acusara a las marcas Meta de hacer muy poco para proteger a los usuarios LGBTQ, y relativamente poco después de que la denunciante Frances Haugen dijera que el filtrado algorítmico de contenido de Facebook solo atrapó a una «pequeña minoría» de discurso de odio. Hay mucha presión para aumentar las medidas contra el odio, y aún no está claro qué tan bien ayudarán las últimas correcciones.
«Los 270 grupos que Meta ha designado como organizaciones supremacistas blancas están prohibidos en nuestra plataforma. Invertimos mucho en tecnología, personas e investigación para mantener nuestras plataformas seguras. Resolvimos de inmediato un problema en el que aparecían anuncios en búsquedas de términos relacionados con prohibidos». organizaciones y también estamos trabajando para solucionar un problema de generación automática, que afectó incorrectamente a una pequeña cantidad de páginas. Continuaremos trabajando con expertos externos y organizaciones en un esfuerzo por adelantarnos al contenido violento, odioso y relacionado con el terrorismo y eliminar dicho contenido de nuestras plataformas».
Todos los productos recomendados por Engadget son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a través de uno de estos enlaces, podemos ganar una comisión de afiliado.