Estados Unidos parece estar tomando en serio la criminalización de la pornografía deepfake después de que unos adolescentes de una escuela secundaria de Nueva Jersey utilizaran generadores de imágenes de inteligencia artificial para crear y compartir imágenes falsas de desnudos no consensuados de compañeras de clase en octubre pasado.
El martes, el representante Joseph Morelle (D-NY) anunció que ha reintroducido la “Ley de Prevención de Deepfakes de Imágenes Íntimas”, que busca “prohibir la divulgación no consensuada de imágenes íntimas alteradas digitalmente”. Según la ley propuesta, cualquiera que comparta pornografía deepfake sin el consentimiento de un individuo corre el riesgo de sufrir daños que podrían llegar hasta los 150.000 dólares y una pena de prisión de hasta 10 años si compartir las imágenes facilita la violencia o afecta los procedimientos de una agencia gubernamental.
La esperanza es que las fuertes sanciones disuadan a las empresas y a los individuos de permitir que se difundan imágenes inquietantes. Crea un delito penal por compartir pornografía deepfake «con la intención de acosar, molestar, amenazar, alarmar o causar un daño sustancial a las finanzas o la reputación del individuo representado» o con «desprecio imprudente» o «conocimiento real» de que las imágenes dañar al individuo representado. También proporciona una vía para que las víctimas demanden a los infractores en un tribunal civil.
El representante Tom Kean (R-NJ), que copatrocinó el proyecto de ley, dijo que «las barreras de seguridad y la transparencia adecuadas son esenciales para fomentar un sentido de responsabilidad entre las empresas de IA y las personas que la utilizan».
«Trate de imaginar el horror de recibir imágenes íntimas que se parecen exactamente a usted, o a su hija, o a su esposa, o a su hermana, y no podrá probar que no lo es», dijo Morelle. «La pornografía deepfake es explotación sexual, es abusiva, y me sorprende que no sea ya un delito federal».
Dorota y Francesca Mani se unieron a Morelle para impulsar la criminalización de la pornografía deepfake, quienes pasaron los últimos dos meses reuniéndose con legisladores, informó The Wall Street Journal. La madre y la hija experimentaron el horror que Morelle describió de primera mano cuando la escuela secundaria de Nueva Jersey confirmó que Francesca, de 14 años, estaba entre los estudiantes atacados el año pasado.
«Lo que nos pasó a mí y a mis compañeros de clase no estuvo bien, y no hay manera de que me encoja de hombros y lo deje pasar», dijo Francesca. «Estoy aquí, levantándome y gritando por el cambio, luchando por leyes, para que nadie más tenga que sentirse tan perdido e impotente como yo el 20 de octubre».
La oficina de Morelle dijo a Ars que «la defensa de socios como la familia Mani» es «crítica para llamar la atención sobre este tema» y lograr que la ley propuesta «se presente para votación».
Morelle presentó la ley en diciembre de 2022, pero no se aprobó ese año ni en 2023. Reintroducirá la ley en 2024 después de aparentemente obtener más apoyo durante una audiencia del subcomité de Supervisión de la Cámara de Representantes sobre «Avances en la tecnología Deepfake» en noviembre pasado.
En esa audiencia, muchos legisladores advirtieron sobre los peligros de los deepfakes generados por IA, citando un estudio de la empresa holandesa de inteligencia artificial Sensity, que encontró que el 96 por ciento de los deepfakes en línea son pornografía deepfake, la mayoría de los cuales está dirigido a mujeres.
Pero los legisladores también dejaron claro que actualmente es difícil detectar imágenes generadas por IA y distinguirlas de las imágenes reales.
Según una transcripción de la audiencia publicada por la organización de noticias sin fines de lucro Tech Policy Press, David Doermann, actualmente presidente interino del departamento de ingeniería y ciencias informáticas de la Universidad de Buffalo y ex gerente de programas de la Agencia de Proyectos de Investigación Avanzada de Defensa (DARPA), dijo a los legisladores que DARPA Ya estaba trabajando en herramientas avanzadas de detección de deepfake, pero aún tenía más trabajo por hacer.
Para apoyar leyes como la de Morelle, los legisladores han pedido más fondos para DARPA y la Fundación Nacional de Ciencias para ayudar en los esfuerzos continuos para crear herramientas de detección efectivas. Al mismo tiempo, el presidente Joe Biden, a través de una amplia orden ejecutiva sobre inteligencia artificial, ha impulsado soluciones como la colocación de marcas de agua en los deepfakes. La orden ejecutiva de Biden también ordenó al Departamento de Comercio que estableciera «estándares y mejores prácticas para detectar contenido generado por IA y autenticar contenido oficial».
Morelle está trabajando para impulsar su ley en 2024, advirtiendo que la pornografía deepfake ya está afectando a una «generación de mujeres jóvenes como Francesca», que están «listas para enfrentarse a la opresión sistémica y mantenerse en su poder».
Hasta que el gobierno federal descubra la mejor manera de prevenir el intercambio de deepfakes generados por IA, Francesca y su madre planean seguir presionando para lograr cambios.
«Nuestras voces son nuestra arma secreta y nuestras palabras son como potenciadores en Fortnite», dijo Francesca. «Mi mamá y yo abogamos por crear un mundo donde estar seguro no sea sólo una esperanza, sino una realidad para todos».