el 10 de abril fue un día muy malo en la vida del célebre jugador y YouTuber Atrioc (Brandon Ewing). Ewing estaba transmitiendo una de sus transmisiones en vivo habituales de Twitch cuando la ventana de su navegador quedó expuesta accidentalmente a su audiencia. Durante esos breves momentos, los espectadores de repente se encontraron cara a cara con lo que parecían ser videos porno falsos que presentaban a las YouTubers y jugadoras QTCinderella y Pokimane, colegas y, según tengo entendido, Ewing’s. amigos. Momentos después, un espectador ingenioso subió una captura de pantalla de la escena a Reddit, y así el escándalo fue un hecho.
Deepfakes se refiere ampliamente a los medios manipulados por IA, comúnmente para superponer la cara de una persona a la de, por ejemplo, un actor en una película o videoclip. Pero, lamentablemente, como informó la periodista de Vice Samantha Cole, su función principal ha sido crear pornografía protagonizada por celebridades femeninas y, quizás lo más alarmante, visualizar las fantasías sexuales de amigos o conocidos. Dada su creciente sofisticación y disponibilidad, cualquiera que tenga una foto de tu cara ahora básicamente puede convertirla en una película porno. «Estamos todos jodidos», como dice Cole de manera concisa.
Para la mayoría de la gente, creo, es obvio que Ewing cometió algún tipo de mala conducta al consumir la pornografía ficticia pero no consentida de sus amigos. De hecho, los comentarios en Reddit y las fuertes (justificadas) reacciones de las mujeres cuyos rostros se usaron en los clips dan testimonio de una profunda sensación de disgusto. Esto es comprensible, pero especificar exactamente dónde se encuentra el crimen es una tarea sorprendentemente difícil. De hecho, la tarea de hacerlo pone de relieve un problema filosófico que nos obliga a reconsiderar no solo la pornografía, sino la naturaleza misma de la imaginación humana. Yo lo llamo el dilema del pervertido.
Por un lado, se puede argumentar que al consumir el material, Ewing estaba incentivando su producción y difusión, lo que, al final, puede dañar la reputación y el bienestar de sus compañeras jugadoras. Pero dudo que el veredicto a los ojos del público hubiera sido mucho más suave si hubiera producido los videos de su propia mano para placer personal. Y pocas personas ven su falta de cierre de la pestaña como el principal problema. Es decir, el delito parece residir en el consumo mismo de las falsificaciones profundas, no en los efectos posteriores de hacerlo. Consumir deepfakes está mal, punto final, independientemente de si las personas que «protagonizan» los clips, o cualquier otra persona, se enteran.
Al mismo tiempo, estamos igualmente seguros de que las fantasías sexuales son moralmente neutrales. De hecho, nadie (excepto quizás algunos católicos acérrimos) habría culpado a Ewing por crear imágenes pornográficas de QTCinderella en su mente. Pero, ¿cuál es la diferencia, realmente? Tanto la fantasía como el deepfake son esencialmente imágenes virtuales producidas por la entrada de datos previa, solo una existe en la cabeza de uno, la otra en una pantalla. Es cierto que estos últimos pueden compartirse más fácilmente, pero si el delito radica en el consumo personal, y no en los efectos externos, esto debería ser irrelevante. De ahí el dilema del pervertido: creemos que las fantasías sexuales están bien siempre que se generen y contengan en la cabeza de una persona, y son abominables en el momento en que existen en el cerebro con la ayuda de una representación algo realista; distinción pertinente para justificar esta evaluación.
A la larga, es probable que esto nos obligue a reevaluar nuestras actitudes morales hacia las falsificaciones profundas y las fantasías sexuales, al menos en la medida en que queramos mantener la coherencia en nuestra moralidad. Hay dos formas obvias en las que esto podría ocurrir.