El martes, el gobierno del Reino Unido anunció una nueva ley dirigida a la creación de imágenes deepfake sexualmente explícitas generadas por IA. Según la legislación, que aún no ha sido aprobada, los infractores enfrentarían procesamiento y una multa ilimitada, incluso si no comparten ampliamente las imágenes sino que las crean con la intención de angustiar a la víctima. El gobierno posiciona la ley como parte de un esfuerzo más amplio para mejorar la protección legal de las mujeres.
Durante la última década, el auge de la tecnología de síntesis de imágenes de aprendizaje profundo ha hecho que sea cada vez más fácil para las personas con una PC de consumo crear pornografía engañosa intercambiando los rostros de los artistas con alguien que no haya dado su consentimiento para el acto. Esa práctica generó el término «deepfake» alrededor de 2017, que lleva el nombre de un usuario de Reddit llamado «deepfakes» que compartía pornografía falsificada por IA en el servicio. Desde entonces, el término ha crecido hasta abarcar imágenes y vídeos completamente nuevos sintetizados completamente desde cero, creados a partir de redes neuronales que han sido entrenadas con imágenes de la víctima.
El problema no es exclusivo del Reino Unido. En marzo, los desnudos falsos de compañeras de secundaria en Florida dieron lugar a cargos contra dos niños de 13 y 14 años. El auge de los modelos de síntesis de imágenes de código abierto como Stable Diffusion desde 2022 ha aumentado la urgencia entre los reguladores de EE. UU. de intentar contener ( o al menos castigar) el acto de crear deepfakes no consensuados. El gobierno del Reino Unido tiene una misión similar.
«Según el nuevo delito, quienes crean estas horribles imágenes sin consentimiento se enfrentan a antecedentes penales y a una multa ilimitada. Si la imagen se comparte más ampliamente, los infractores podrían ser enviados a prisión», dijo el Ministerio de Justicia del Reino Unido en un comunicado. «La nueva ley significará que si alguien crea un deepfake sexualmente explícito, incluso si no tiene la intención de compartirlo sino que simplemente quiere causar alarma, humillación o angustia a la víctima, estará cometiendo un delito penal».
El año pasado, la controvertida Ley de Seguridad en Línea criminalizó el intercambio de imágenes deepfake no consensuadas. La nueva ley propuesta, que aún debe pasar por un proceso parlamentario para ser promulgada, marcaría la primera vez que la creación de deepfakes sexualmente explícitos de adultos sin su consentimiento se volverá ilegal en el Reino Unido (la distinción es compartir versus crear). El gobierno dice que las leyes existentes ya cubren la creación de deepfakes sexuales de niños.
El gobierno también busca reforzar las leyes existentes, permitiendo cargos tanto por la creación como por la distribución de contenido deepfake, lo que podría conducir a penas más severas por parte de la Fiscalía de la Corona (CPS).
En una declaración, la ministra de Salvaguardia, Laura Farris, enfatizó la postura del gobierno y afirmó: «La creación de imágenes sexuales ultrafalsas es despreciable y completamente inaceptable, independientemente de si la imagen se comparte. Este nuevo delito envía un mensaje muy claro de que hacer este material es inmoral, a menudo misógino y un crimen».