Twitter discutió la creación de un clon de OnlyFans para monetizar el contenido para adultos que prevaleció en la plataforma durante muchos años, pero su incapacidad para detectar y eliminar de manera efectiva el contenido sexual dañino frenó esa noción, según un Borde investigación. Un equipo de Twitter formado para averiguar si la compañía podría llevar a cabo tal movimiento determinó esta primavera que «Twitter no puede detectar con precisión la explotación sexual infantil y la desnudez no consensuada a gran escala». Los hallazgos del equipo fueron «parte de una discusión, que finalmente nos llevó a detener el flujo de trabajo por las razones correctas», dijo la portavoz de Twitter, Katie Rosborough.
Se dice que Twitter detuvo el proyecto de monetización de contenido para adultos (ACM) en mayo, poco después de acordar una venta de $ 44 mil millones a Elon Musk; ese acuerdo ahora está en el aire. El equipo de liderazgo de la empresa determinó que no podía seguir adelante con ACM sin promulgar más medidas de salud y seguridad.
La investigación (que puede leer en su totalidad aquí) detalla las advertencias que los investigadores de Twitter hicieron en febrero de 2021 acerca de que la compañía no hizo lo suficiente para detectar y eliminar contenido sexual dañino, como material de abuso sexual infantil (CSAM). Se dice que los investigadores informaron a la compañía que el sistema de cumplimiento que utiliza principalmente Twitter, RedPanda, es «una herramienta heredada y sin soporte» que es «por mucho una de las herramientas más frágiles, ineficientes y con soporte insuficiente» que emplea.
Si bien la empresa tiene sistemas de aprendizaje automático, aparentemente tienen dificultades para detectar nuevas instancias de MASI en tuits y transmisiones en vivo. Twitter informa manualmente el abuso sexual infantil y juvenil al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC). Sin embargo, los investigadores notaron que el proceso laborioso provocó una acumulación de casos y un retraso en la notificación del abuso sexual infantil al NCMEC. Rosborough dijo el borde que desde que los investigadores publicaron su informe el año pasado, Twitter ha aumentado significativamente su inversión en la detección de MASI.
Es posible que los anunciantes se hayan enfadado con la noción de la monetización de contenido para adultos (a pesar de que la pornografía está muy extendida en la plataforma), pero la ventaja financiera potencial para Twitter era clara. OnlyFans espera generar $2500 millones en ingresos este año, que es aproximadamente la mitad de lo que Twitter generó en 2021. Twitter ofrece a los creadores varias formas de monetizar directamente las grandes audiencias que muchos de ellos han creado en la plataforma. Agregar funciones al estilo de OnlyFans podría haber sido una mina de oro para los creadores de contenido para adultos y la compañía. Cuestiones más amplias han impedido que la empresa dé ese paso, a pesar de las mejoras que afirma haber realizado en los últimos 18 meses.
Actualización 8/30 4:46 p. m. ET: Un portavoz de Twitter proporcionó la siguiente declaración:
Twitter tiene tolerancia cero para la explotación sexual infantil. Luchamos agresivamente contra el abuso sexual infantil en línea y hemos invertido en tecnología y herramientas para hacer cumplir nuestra política. Nuestros equipos dedicados trabajan para adelantarse a los actores de mala fe y ayudar a garantizar que protejamos a los menores de todo daño, tanto en línea como fuera de línea.
Durante años, nos hemos asociado con organizaciones y partes interesadas de la industria de todo el mundo en esta área, incluida la Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), para garantizar que estemos utilizando los mejores recursos y tecnología disponibles.
Los informes recientes sobre Twitter sobre el tema están fechados y brindan una mirada momentánea a solo un aspecto de nuestro trabajo en este espacio y nuestro trabajo aquí continúa. Desde entonces, hemos agudizado nuestro enfoque y ampliado los recursos dedicados a la seguridad infantil.
también estamos contratación— subrayando nuestra continua inversión en este trabajo.
Fue el diálogo continuo y reflexivo sobre el tema lo que nos llevó a la decisión de pausar el flujo de trabajo por la razón correcta y priorizar en otro lugar.
Todos los productos recomendados por Engadget son seleccionados por nuestro equipo editorial, independiente de nuestra empresa matriz. Algunas de nuestras historias incluyen enlaces de afiliados. Si compra algo a través de uno de estos enlaces, podemos ganar una comisión de afiliado.