En una misión para evitar que los hombres jóvenes se radicalicen cada vez más en línea, la fiscal general de Nueva York, Letitia James, sugirió hoy una nueva estrategia para detener la propagación del odio en línea: castigar a cualquiera que vuelva a publicar contenido creado por quienes cometen homicidios.
Su recomendación de reforma de políticas que podría infringir la Primera Enmienda se produce después de que la Oficina de Internet y Tecnología y la Unidad de Delitos de Odio de la Oficina de Derechos Civiles realizaran una investigación sobre cómo las plataformas en línea, incluidas Reddit, Discord, 4chan, 8chan, Twitch y YouTube, ayudaron un hombre armado blanco prepara y luego asesina a 10 personas negras en Buffalo, Nueva York, durante un tiroteo masivo en mayo.
Según la Oficina del Fiscal General, el contenido del pistolero, incluidos fragmentos de su manifiesto, se compartió en las principales plataformas como Facebook, Instagram, Twitter y TikTok. Entre otras soluciones propuestas, James y la gobernadora de Nueva York, Kathy Hochul, anunciaron que quieren que los legisladores establezcan una responsabilidad civil para que nadie comparta contenido extremista, que potencialmente puede inspirar imitadores.
Discord proporcionó a Ars una declaración: «Creamos Discord para que sea un lugar para que las personas encuentren unión, y las ideologías y acciones de odio están en oposición directa a nuestra misión».
“Hemos trabajado en estrecha colaboración con el fiscal general de Nueva York durante el transcurso de la investigación”, dijo el portavoz de Discord a Ars. «Sabemos que debemos hacer más para mantener el odio, la violencia y el extremismo fuera de nuestra plataforma y estamos colaborando activamente con socios en herramientas y técnicas para fortalecer las prácticas de moderación de la industria y la transparencia de las políticas. Nuestro trabajo aquí nunca se detiene».
Meta dijo que apoya enfoques estandarizados para la aplicación de contenido que podrían aclarar qué contenido está prohibido, responsabilizar a las empresas por hacer cumplir las políticas y mejorar la transparencia.
“No hay lugar en nuestras plataformas para el terrorismo, el extremismo o cualquier promoción de la violencia o el odio”, dijo un portavoz de Meta. «Trabajamos constantemente para evitar el abuso de nuestros servicios y estamos comprometidos a mantener a las personas seguras en nuestras plataformas».
Ninguna de las otras plataformas pudo ser contactada de inmediato para hacer comentarios. La oficina de James tampoco respondió de inmediato.
También se recomiendan reformas a la Sección 230
Después de revisar «miles de páginas de documentos y contenido de redes sociales para examinar cómo el presunto tirador usó plataformas en línea para planificar, preparar y publicitar su ataque», la oficina de James también reiteró algunas soluciones propuestas más comúnmente para el contenido de odio que se difunde en línea. Estos incluyen estándares antiguos como exigir más transparencia en la moderación de contenido y esfuerzos de moderación de contenido más fuertes de las plataformas sociales.
Pero las recomendaciones de James también incluyeron algunas otras sugerencias que se consideran menos comúnmente en estos días. Además de imponer responsabilidades civiles a los usuarios, James también persiguió a las plataformas. Recomendó reformas legales para responsabilizar a las plataformas por alojar contenido extremista y nuevas leyes que requieren que las transmisiones en vivo se retrasen para que los moderadores tengan un margen para eliminar el contenido infractor antes de que se publique.
Para impulsar las reformas, explicó James, sería necesario enmendar la Sección 230, que actualmente protege a las plataformas de tales responsabilidades. Pero ella dijo que no tiene que permanecer así.
«El Congreso debería repensar la disponibilidad inmediata de la Sección 230 como una defensa completa para las prácticas de moderación de contenido de las plataformas en línea», dijo James. «En cambio, la ley debe reformarse para exigir que una plataforma en línea que desee conservar las protecciones de la Sección 230 tome medidas razonables para evitar que aparezca contenido criminal violento e ilegal en la plataforma».
Esto, dijo James, cambiaría el modo predeterminado para que empresas como Meta o Twitch tengan «la carga inicial de establecer que sus políticas y prácticas fueron diseñadas razonablemente para abordar el contenido ilegal».
No todos están de acuerdo con James en reformar la Sección 230 y penalizar a los usuarios. El director ejecutivo de la Cámara de Progreso de la coalición de políticas tecnológicas, Adam Kovacevich, publicó una declaración que decía: «Las sanciones por crear publicaciones homicidas tienen el potencial de frenar la propagación de contenido violento en línea. Pero la propuesta de la AG de cambiar la Sección 230 para evitar la propagación de contenido violento malinterpreta esa Sección 230 ya protege y fomenta la moderación de contenido. La mejor manera de proteger la moderación de contenido es proteger la Sección 230, no destriparla».
El informe de New York AG también desafía las protecciones de la Primera Enmienda defendidas durante mucho tiempo para las plataformas y los usuarios que comparten contenido extremista. Ella sugirió que el Congreso, la Legislatura estatal y las plataformas podrían tomar medidas para responsabilizar a cualquier persona por la proliferación del discurso de odio en línea.
Entre los legisladores que respaldaron las recomendaciones de James se encontraba el alcalde de Buffalo, Byron Brown, quien explicó el papel que desempeñaron las plataformas al permitir que la influencia del tirador de Buffalo se extendiera fácilmente en línea.
«Un número creciente de ataques violentos contra comunidades comienzan con discursos de odio en línea», dijo Brown. «Es demasiado fácil para las personas radicalizarse y adoctrinarse con una ideología odiosa a través de Internet. El [May 15] El asesino en masa investigó a su objetivo en Buffalo, difundió este odioso manifiesto y transmitió en vivo sus asesinatos con inquietante facilidad. Se debe hacer mucho más para garantizar que no haya lugar en Internet para el discurso de odio, para el adoctrinamiento del odio, para la difusión de manifiestos de odio».