A medida que Twitch, la plataforma de streaming líder en el mundo, sigue creciendo, también lo hacen los problemas que encuentra con varios tipos de mal comportamiento. 2022 fue probablemente el año más dramático en la historia de Twitch (se abre en una pestaña nueva)y 2023 comenzó con otro tipo de escándalo profundamente asqueroso: el popular streamer Atrioc visitó un sitio web llamado deepfake en vivo, que presentaba imágenes explícitas y falsas de mujeres streamers, incluidas Maya Higa y Pokimane.
Posteriormente, Atrioc se disculpó (se abre en una pestaña nueva) y se retiró de la transmisión por un tiempo, pero el daño ya estaba hecho y la angustia que causó a los transmisores que aparecen en el sitio web era pública y clara. Twitch ahora ha esbozado cómo planea abordar los incidentes de «pornografía falsa» (se abre en una pestaña nueva)tanto dentro como fuera de la plataforma, y comienza abordando el término en sí.
La frase «pornografía falsa» ha adquirido gran aceptación, pero siguiendo los consejos de expertos como Danielle Keats Citron (profesora de derecho y vicepresidenta de la Iniciativa de Derechos Civiles Cibernéticos) y la línea de ayuda de pornografía de venganza del Reino Unido, Twitch se referirá a este material como «sintético no imágenes de explotación consensuadas» o «NCEI sintético». El razonamiento es el siguiente:
«Llamar «pornografía» al contenido sintético del NCEI es incorrecto. La pornografía (si bien está prohibida en Twitch) debe ser consensuada y debe presentar a personas que saben que están participando en actividades que otros van a ver. Eso no es lo que está sucediendo aquí, y por qué es importante, reforzamos inequívocamente que este contenido se crea sin consentimiento».
Por cierto, esto es algo similar a lo que está sucediendo actualmente con el término «pornografía de venganza», con el que los expertos en el campo del abuso han discrepado: sobre todo porque «venganza» implica que la víctima hizo algo para merecerlo. En ese caso, la terminología preferida en el campo ahora es «abuso basado en imágenes», más clínica y precisa sobre la naturaleza del delito y con menos implicación de culpar a la víctima.
Finalmente, sobre el tema de la terminología, Twitch señala que «deepfake» es una especie de palabra de moda contemporánea, pero no necesariamente una descripción precisa de los métodos utilizados para generar contenido como este.
Todo esto es importante porque el idioma es el componente básico de la política. El NCEI sintético está prohibido según las políticas actuales de Twitch y, por supuesto, seguirá siéndolo, pero la redacción de dos políticas del sitio cambiará a la luz de los eventos de enero:
1. Estamos actualizando nuestra política sobre violencia y explotación sexual de adultos para que quede más claro que promover, crear o compartir intencionalmente NCEI sintético puede resultar en una suspensión indefinida en la primera ofensa.
2. Estamos actualizando nuestra política de desnudez de adultos para incluir NCEI sintético. Incluso si ese NCEI se muestra solo brevemente o, por ejemplo, se muestra para expresar su indignación o desaprobación del contenido, se eliminará y dará lugar a una aplicación.
Twitch ahora organizará un campamento de creadores el 14 de marzo para recopilar más perspectivas de la comunidad y expertos sobre cómo lidiar con estos problemas en el futuro. Será dirigido por Zara Ward, experta en NCEI y gerente de la línea de ayuda de Revenge Porn, además de ser streamer y miembros del equipo de seguridad de Twitch. Twitch también se ha reunido una lista de recursos (se abre en una pestaña nueva) ese debería ser un primer puerto de escala para cualquier persona afectada por NCEI sintético.
El contenido «deepfake» explícito no tiene cabida en Twitch, ni en ninguna parte. Para ayudar a proteger a las mujeres streamers, organizaremos un Creator Camp el 14 de marzo con más recursos y formas de mantenerse a salvo. Lea nuestra actualización para la comunidad con más información aquí: https://t.co/KAH4zUTSBp pic.twitter.com/Q01sLolGJP7 de marzo de 2023
Obviamente, estas son tecnologías incipientes y se pueden usar para otras cosas además del NCEI sintético, y gran parte de lo que la gente crea con ellas será divertido, extraño o inocente en lugar de horrible. Twitch se adentra un poco en lo desconocido en términos de adoptar un enfoque proactivo para lidiar con eso y reconoce que, aparte de las cosas obviamente horribles, habrá incidentes con más matices: «No todo el contenido creado sintéticamente es de naturaleza sexual». , ni es todo ello no consensuado […] Pero una cosa está clara: cuando se usa para crear NCEI sintético, ese matiz desaparece. La creación, promoción o visualización de este contenido no es bienvenida en Twitch».
Las nuevas políticas se implementarán este mes. Siguiendo el campamento de creadores, Twitch promete más actualizaciones sobre cómo evolucionará su enfoque. Esta será un área interesante para ver, no por las cosas obviamente atroces que se abordan explícitamente aquí, sino por el contenido más dependiente de la IA en Twitch que puede ser más difícil de analizar. Este año también vio el debut de un programa de AI Seinfeld que duró unos días antes de ser suspendido por una broma. (se abre en una pestaña nueva) algunos lo vieron como homofóbico y transfóbico; mientras que otros lo vieron como una metabroma que apuntaba a diatribas sin gracia sobre las personas trans y la agenda gay. Bienvenido a nuestro futuro de IA: es un desastre.