Atrioc, cuyo verdadero nombre es Brandon Ewing, está de vuelta en Twitch. Se había tomado un descanso de aproximadamente un mes y medio de la plataforma de transmisión después de compartir sin darse cuenta las pestañas de su navegador Chrome en una transmisión en vivo y revelar que visitó un sitio web que vendía falsificaciones profundas explícitas y no consensuadas, específicamente aquellas en las que otros streamers Se editaron semejanzas en los cuerpos de las estrellas porno.
Las capturas de pantalla del sitio web circularon ampliamente entre quienes habían estado viendo la transmisión en vivo de Ewing. Y los streamers cuyas imágenes aparecieron en el sitio web deepfake, incluidos QTCinderella, Maya Higa, Sweet Anita y Pokimane, algunos de los cuales son amigos de Ewing, tuvieron que lidiar con las consecuencias. En las siguientes semanas, las mujeres afectadas fueron objeto de hostigamiento, ya que imágenes explícitas de sus semejanzas circularon por Internet.
El martes pasado, Ewing realizó una transmisión para brindar una actualización sobre las «acciones» que ha estado tomando a raíz de su escándalo de falsificación profunda. La transmisión experimentó importantes interrupciones técnicas que hicieron que se interrumpiera mientras hablaba Ewing. Dijo que estaba trabajando con «reporteros, tecnólogos, investigadores, mujeres afectadas, Twitch ellos mismos, estoy tratando de trabajar con todos los que puedo».
Ewing también se disculpó por su video de disculpa inicial entre lágrimas que había publicado el 30 de enero y que desde entonces ha sido eliminado de su cuenta. En ese video de disculpa inicial, afirmó que había navegado al sitio web como resultado de hacer clic en un anuncio de PornHub por «curiosidad morbosa». El 31 de enero, Ewing también compartió una declaración en Twitter a través de TwitLonger en la que se disculpó con Maya y Pokimane, y dijo que estaba trabajando con QTCinderella y el bufete de abogados Morrison Rothman para eliminar el sitio web falso. (Desde entonces, el sitio web ha sido eliminado de falsificaciones profundas, informó Vice en enero).
Durante la transmisión, Ewing dijo que había transferido $60,000 a Morrison Rothman, el bufete de abogados que QTCinderella recomendó a las mujeres afectadas por el escándalo de las falsificaciones profundas. Alcanzado para hacer comentarios, un socio fundador de la firma de abogados, Ryan Morrison, envió a Polygon lo siguiente por correo electrónico:
No puedo confirmar quién lo utilizó o cuánto (privilegio de abogado/cliente), pero puedo confirmar con certeza que Atrioc envió un anticipo de 60k para ser utilizado exclusivamente por mujeres afectadas por falsificaciones profundas y problemas similares, y eso es *largo* manera con nuestras tarifas para tales servicios. Los retenedores se retienen y solo se retiran si se usan o se genera una factura y todo lo que sobra al final del asunto se devuelve al cliente. Aquí, como es un asunto continuo, lo más probable es que se siga utilizando y ayude con las protecciones que podemos ofrecer a los afectados.
Durante el curso de su investigación sobre deepfakes, Ewing dijo que se enteró de que los creadores de OnlyFans habían progresado en la lucha contra la pornografía deepfake. Descubrió que una empresa llamada Ceartas, que utiliza inteligencia artificial para marcar las apariencias de los creadores y presentar informes de DMCA, era uno de los socios de seguridad de OnlyFans, como se indica en el Informe de transparencia de 2023 del sitio.
Un representante de Ceartas le dijo a Polygon por correo electrónico que la compañía fue creada para «combatir específicamente la pornografía falsa, la pornografía de venganza y el abuso sexual basado en imágenes». Confirmaron que Ewing había trabajado con ellos y dijeron: “Brandon se acercó a nosotros hace unas semanas para pedir ayuda después de que no estaba satisfecho con el trabajo realizado por un bufete de abogados. Brindamos una prueba en nombre de los creadores que mencionó en su transmisión. Esto ahora ha pasado de la prueba al servicio”.
El representante también respondió a algunas de las afirmaciones de Ewing sobre el modelo de IA de la empresa:
En cuanto a la declaración en la transmisión sobre no tener suficientes creadores para nuestro modelo de IA, creo que Brandon quizás se refirió específicamente a los transmisores de Twitch. Tenemos poco menos de 500 clientes en múltiples verticales (OnlyFans, Instagram, Patreon, YouTube, etc.), pero no tantos creadores de tipo Twitch que enfrentan problemas de deepfake (considerando que muchos de ellos no tienen contenido NSFW). Sin embargo, tenemos toneladas de datos para que funcionen nuestras herramientas de IA; por supuesto, más datos sobre casos extremos son bienvenidos.
Ewing también dijo que recibió ayuda de una persona poco probable: Maya Higa, una de las mujeres afectadas por el escándalo de las falsificaciones profundas, supuestamente respondió a su disculpa y solicitud de trabajar con ella. Ewing dijo que usaron Ceartas y, en 12 horas, supuestamente pudieron eliminar 512 elementos de Google (Ewing no especificó qué se eliminó exactamente). Comparó este número con los 51 derribos que, según los informes, Morrison Rothman emitió en febrero.
Ewing dijo que, luego de estos resultados exitosos, QTCinderella también usó Ceartas para eliminar una serie de falsificaciones profundas. También dijo que Amouranth se acercó a él y le pidió que la ayudara a «eliminar las cosas».
Polygon se ha comunicado con los representantes de QTCinderella, Pokimane, Amouranth y Maya Higa para obtener comentarios y actualizará la historia cuando recibamos una respuesta.
Es increíblemente difícil evitar que se creen imágenes falsas, así como eliminarlas de Internet. A medida que la tecnología que se puede usar para crearlos se vuelve más sofisticada, en particular con la IA generativa, que lo hace más fácil que nunca, el potencial de uso indebido y acoso también continúa creciendo. Y aunque existen leyes que se enfocan específicamente en la pornografía falsa en California y Virginia, tales protecciones no existen a nivel federal y son notoriamente difíciles de hacer cumplir.
Desde la transmisión en vivo de Atrioc en enero, el aluvión de acoso ha sido interminable para las mujeres a las que se dirigen estos deepfakes. En enero, QTCinderella se puso en marcha para responder al incidente. “A la mierda el puto internet. A la mierda la constante explotación y cosificación de las mujeres, es agotador”, dijo. «Esto es lo que parece. Así es como se ve el dolor”. En los meses siguientes, todavía organizó los Premios Streamer y le dijo a Polygon en una entrevista reciente: «Creo que cualquier mujer en la industria puede dar fe de que es solo una batalla ascendente».
El video de disculpa de Ewing solo pareció amplificar la situación; en Enero, Dulce Anita tuiteó que su video de disculpa fue cómo ella descubrió que había deepfakes explícitos de ella en un sitio web. En febrero, Kotaku informó extensamente sobre cómo la habían afectado las consecuencias. “Quieren verte como una puta, no importa lo que hagas. Y te quieren odiar por puta. No importa si participas, te harán participar”, le dijo Sweet Anita a Kotaku.
En los meses posteriores al incidente, una serie de anuncios de aplicaciones que permiten a los usuarios crear falsificaciones profundas, incluidos este, con una persona que ha sido editada para parecerse a Emma Watson, también comenzó a difundirse en Facebook.
Twitch tardó más de un mes en responder a estos eventos. El 7 de marzo, Twitch finalmente actualizó algunas de sus políticas con respecto a las imágenes de explotación no consensuadas (NCEI). La compañía actualizó el lenguaje en su política de Explotación y Violencia Sexual de Adultos para “aclarar más que promover, crear o compartir intencionalmente NCEI sintético puede resultar en una suspensión indefinida”. La política de desnudez de adultos también se actualizó para incluir NCEI. La empresa consultó con la Línea de Ayuda de Revenge Porn del Reino Unido y con Danielle Keats Citron, vicepresidenta de la Iniciativa de Derechos Civiles Cibernéticos.