Dos adolescentes de Miami, Florida, fueron arrestados en diciembre por supuestamente crear y compartir sin consentimiento imágenes de desnudos de compañeros de clase masculinos y femeninos generadas por IA, según informes policiales obtenidos por WIRED a través de una solicitud de registro público.
Los informes de arresto dicen que los niños, de 13 y 14 años, crearon imágenes de los estudiantes que tenían “entre 12 y 13 años”.
El caso de Florida parece ser el primer arresto y cargos criminales que salen a la luz como resultado del presunto intercambio de imágenes de desnudos generadas por IA. Los niños fueron acusados de delitos graves de tercer grado (el mismo nivel de delitos que el hurto mayor de automóviles o el encarcelamiento falso) en virtud de una ley estatal aprobada en 2022 que tipifica como delito compartir “cualquier representación sexual alterada” de una persona sin su consentimiento.
El padre de uno de los niños arrestados no respondió a una solicitud de comentarios a tiempo para su publicación. El padre del otro niño dijo que “no tenía comentarios”. El detective asignado al caso y el fiscal estatal a cargo del caso no respondieron a los comentarios a tiempo para su publicación.
A medida que las herramientas de creación de imágenes de IA se han vuelto más disponibles, ha habido varios incidentes de alto perfil en los que menores supuestamente crearon imágenes de desnudos de compañeros de clase generadas por IA y las compartieron sin consentimiento. No se han revelado arrestos en los casos reportados públicamente (en la escuela secundaria Issaquah en Washington, la escuela secundaria Westfield en Nueva Jersey y la escuela secundaria Beverly Hills Vista en California), a pesar de que se presentaron informes policiales. En la escuela secundaria Issaquah, la policía optó por no presentar cargos.
Los primeros informes de los medios sobre el caso de Florida aparecieron en diciembre, diciendo que los dos niños fueron suspendidos de la Academia Pinecrest Cove en Miami durante 10 días después de que los administradores de la escuela se enteraran de las acusaciones de que habían creado y compartido imágenes falsas de desnudos sin consentimiento. Después de que los padres de las víctimas se enteraron del incidente, varios comenzaron a instar públicamente a la escuela a expulsar a los niños.
Nadia Khan-Roberts, la madre de una de las víctimas, dijo a NBC Miami en diciembre que para todas las familias cuyos hijos fueron víctimas el incidente fue traumatizante. “Nuestras hijas no se sienten cómodas caminando por los mismos pasillos con estos niños”, dijo. “Me hace sentir violada, me siento aprovechada [of] y me siento utilizado”, dijo a la estación de televisión una víctima, que pidió permanecer en el anonimato.
WIRED obtuvo registros de arresto esta semana que dicen que el incidente fue reportado a la policía el 6 de diciembre de 2023 y que los dos niños fueron arrestados el 22 de diciembre. Los registros acusan a la pareja de usar “una aplicación de inteligencia artificial” para hacer que las imágenes falsas sean explícitas. . El nombre de la aplicación no se especificó y los informes afirman que los niños compartieron las imágenes entre ellos.
“El incidente fue reportado a un administrador de la escuela”, dicen los informes, sin especificar quién lo reportó, ni cómo esa persona se enteró de las imágenes. Después de que el administrador de la escuela «obtuvo copias de las imágenes alteradas», entrevistó a las víctimas representadas en ellas, dicen los informes, quienes dijeron que no dieron su consentimiento para que se crearan las imágenes.