El Departamento de Justicia de EE. UU. ha comenzado a tomar medidas enérgicas contra el uso de generadores de imágenes de IA para producir materiales de abuso sexual infantil (CSAM).
El lunes, el Departamento de Justicia arrestó a Steven Anderegg, un hombre de Wisconsin de 42 años «extremadamente conocedor de la tecnología» que supuestamente usó Stable Diffusion para crear «miles de imágenes realistas de menores prepúberes», que luego se distribuyeron en Instagram y Telegram.
Los policías fueron alertados sobre las supuestas actividades de Anderegg después de que Instagram señalara mensajes directos que se enviaron en la cuenta de Instagram de Anderegg a un niño de 15 años. Instagram informó de los mensajes al Centro Nacional para Niños Desaparecidos y Explotados (NCMEC), que posteriormente alertó a las autoridades.
Durante el intercambio de Instagram, el Departamento de Justicia descubrió que Anderegg envió imágenes de inteligencia artificial sexualmente explícitas de menores poco después de que el adolescente diera a conocer su edad, alegando que «la única explicación razonable para enviar estas imágenes era atraer sexualmente al niño».
Según la acusación del Departamento de Justicia, Anderegg es un ingeniero de software con «experiencia profesional trabajando con IA». Debido a su «habilidad especial» en IA generativa (GenAI), supuestamente pudo generar el CSAM utilizando una versión de Stable Diffusion, «junto con una interfaz gráfica de usuario y complementos especiales creados por otros usuarios de Stable Diffusion que se especializaban en produciendo genitales.»
Después de que Instagram informara sobre los mensajes de Anderegg al menor, los policías confiscaron la computadora portátil de Anderegg y encontraron «más de 13,000 imágenes GenAI, con cientos, si no miles, de estas imágenes que representan a menores prepúberes desnudos o semidesnudos mostrando o tocando lascivamente sus genitales» o «participando en relaciones sexuales con hombres.»
En sus mensajes al adolescente, Anderegg aparentemente «se jactaba» de su habilidad para generar CSAM, según la acusación. El DOJ alegó que la evidencia de su computadora portátil mostraba que Anderegg «usó indicaciones extremadamente específicas y explícitas para crear estas imágenes», incluidas «indicaciones ‘negativas’ específicas, es decir, indicaciones que dirigen el modelo GenAI sobre qué no incluir en el contenido generado. «Para evitar crear imágenes que representen a adultos». Estas indicaciones de acceso estaban almacenadas en su computadora, alegó el Departamento de Justicia.
Anderegg se encuentra actualmente bajo custodia federal y ha sido acusado de producción, distribución y posesión de CSAM generado por IA, así como de «transferir material obsceno a un menor de 16 años», según la acusación.
Debido a que el Departamento de Justicia sospechaba que Anderegg tenía la intención de utilizar CSAM generado por IA para preparar a un menor, el Departamento de Justicia argumenta que «no existen condiciones de liberación» que puedan impedirle representar un «peligro significativo» para su comunidad mientras el tribunal reflexiona sobre su caso. El Departamento de Justicia advirtió al tribunal que es muy probable que cualquier contacto futuro con menores pase desapercibido, ya que Anderegg aparentemente es lo suficientemente experto en tecnología como para ocultar cualquier intento futuro de enviar a menores CSAM generado por IA.
«Estudió informática y tiene décadas de experiencia en ingeniería de software», dice la acusación. «Si bien el monitoreo por computadora puede abordar el peligro que representan los delincuentes menos sofisticados, los antecedentes del acusado brindan amplias razones para concluir que podría eludir tales restricciones si así lo decidiera. Y si lo hiciera, cualquier conducta reincidente probablemente pasaría desapercibida».
Si es declarado culpable de los cuatro cargos, podría enfrentar «una pena máxima legal total de 70 años de prisión y un mínimo obligatorio de cinco años de prisión», dijo el Departamento de Justicia. En parte debido a su «habilidad especial en GenAI», el Departamento de Justicia, que describió sus pruebas contra Anderegg como «sólidas», sugirió que podrían recomendar un rango de sentencia «tan alto como cadena perpetua».
Al anunciar el arresto de Anderegg, la Fiscal General Adjunta Lisa Monaco dejó claro que la creación de CSAM generado por IA es ilegal en Estados Unidos.
«La tecnología puede cambiar, pero nuestro compromiso de proteger a los niños no», afirmó Mónaco. «El Departamento de Justicia perseguirá agresivamente a quienes produzcan y distribuyan material de abuso sexual infantil (o CSAM, por sus siglas en inglés) sin importar cómo se creó ese material. En pocas palabras, el CSAM generado por IA sigue siendo CSAM, y responsabilizaremos a quienes exploten la IA para crear Imágenes de niños obscenas, abusivas y cada vez más fotorrealistas».