Dos estudiantes de secundaria de Florida fueron arrestados en diciembre y acusados de delitos graves de tercer grado por supuestamente crear desnudos falsos de sus compañeros de clase. Un informe por cableado cita informes policiales que dicen que dos niños, de 13 y 14 años, están acusados de utilizar una “aplicación de inteligencia artificial” anónima para generar imágenes explícitas de otros estudiantes “de entre 12 y 13 años”. El incidente puede ser el primer caso en Estados Unidos de cargos penales relacionados con imágenes de desnudos generadas por IA.
Fueron acusados de delitos graves de tercer grado bajo una Ley de Florida de 2022 que criminaliza la difusión de imágenes sexualmente explícitas deepfake sin el consentimiento de la víctima. Tanto los arrestos como los cargos parecen ser los primeros de su tipo en el país relacionados con el intercambio de desnudos generados por IA.
Los medios de comunicación locales informó sobre el incidente luego de que los estudiantes de la Academia Pinecrest Cove en Miami, Florida, fueran suspendidos el 6 de diciembre y el caso fuera reportado al Departamento de Policía de Miami-Dade. De acuerdo a cableadofueron arrestados el 22 de diciembre.
Los menores que crean desnudos generados por IA e imágenes explícitas de otros niños se han convertido en un problema cada vez más común en los distritos escolares de todo el país. Pero fuera del incidente de Florida, ninguno de los que hayamos oído hablar ha llevado a un arresto. Actualmente no existe ninguna ley federal que aborde los desnudos deepfake no consensuados, lo que ha dejado a los estados abordando por su cuenta el impacto de la IA generativa en cuestiones de material de abuso sexual infantil, deepfakes no consensuados o pornografía de venganza.
El otoño pasado, el presidente Joe Biden emitió un orden ejecutiva sobre IA que pidió a las agencias un informe sobre la prohibición del uso de IA generativa para producir material de abuso sexual infantil. El Congreso aún tiene que aprobar una ley sobre la pornografía deepfake, pero eso posiblemente podría cambiar pronto. Tanto el Senado como la Cámara legislación introducidaconocida como Ley DEFIANCE de 2024, esta semana, y el esfuerzo parece tener apoyo bipartidista.
Aunque casi todos los estados cuentan ahora con leyes que abordan porno de venganza, solo un puñado de estados han aprobado leyes que abordan en diversos grados las imágenes sexualmente explícitas generadas por IA. Las víctimas en estados sin protección legal también han recurrido a litigios. Por ejemplo, un adolescente de nueva jersey está demandando a un compañero de clase por compartir desnudos falsos de IA.
El Los Ángeles Times reportado recientemente que el Departamento de Policía de Beverly Hills está investigando actualmente un caso en el que estudiantes supuestamente compartieron imágenes que «usaban rostros reales de estudiantes sobre cuerpos desnudos generados por IA». Pero debido a que la ley estatal contra la “posesión ilegal de material obsceno sabiendo que representa a una persona menor de 18 años participando o simulando una conducta sexual” no menciona explícitamente las imágenes generadas por IA, el artículo dice que no está claro si se ha cometido un delito.
El distrito escolar local votó el viernes a favor expulsar a cinco estudiantes involucrado en el escándalo, el Los Ángeles Times informes.