Foto: Rich Graessle/Icon Sportswire vía Getty Images
Una escuela secundaria en Westfield, Nueva Jersey, inició una investigación después de que un estudiante supuestamente creara desnudos de niñas en la escuela generados por IA. Los chicos de segundo año compartían las imágenes en chats grupales. El mundo financiero Diario informes. Pero el 20 de octubre, uno de ellos aparentemente avisó a sus compañeros de clase, quienes trasladaron el incidente a los administradores de la escuela.
“Mi hija me envió un mensaje de texto: ‘Mamá, se están distribuyendo fotografías mías desnuda’. Eso es todo. Nos dirigimos a la oficina del director”, dijo a CBS una madre, Dorota Mani. Continuó diciendo que su hija, de 14 años, “comenzó a llorar y luego caminaba por los pasillos y vio llorar a otras niñas de Westfield High School”.
De acuerdo con la Diario, que habló con varios padres de las niñas, un estudiante (o posiblemente más) tomó fotografías originales de las niñas y las pasó por una herramienta de inteligencia artificial para crear desnudos falsos, también conocidos como deep fakes. La directora de la escuela, Mary Asfendis, supuestamente reconoció en un correo electrónico a los padres que la escuela cree que «todas las imágenes creadas han sido eliminadas y no están circulando», aunque «había una gran preocupación sobre quién tenía imágenes creadas de ellas». Una persona familiarizada con la investigación policial le dijo a la Diario que la policía, que también está investigando el asunto, no ha visto las imágenes y cree que fueron eliminadas.
Pero en un momento en el que los usos inapropiados (si no necesariamente ilegales) de la IA son rampantes, los padres y los estudiantes no están seguros de que esas investigaciones ofrezcan suficiente protección a las víctimas o consecuencias para los perpetradores. Después de todo, existe amplia evidencia que sugiere que las mujeres y los adolescentes son particularmente vulnerables al uso indebido de la IA. Sophie Maddocks, investigadora de la Universidad de Pensilvania, dijo recientemente al Washington Correo que en estos días la IA está “apuntando principalmente a las niñas”, incluso a aquellas “que no están en el ojo público”. Además, un Un estudio de 2019 realizado por Sensity AI, una empresa que rastrea falsificaciones profundas, encontró que el 96 por ciento de esas imágenes son pornográficas y casi todas están dirigidas a mujeres.
Sin una ley federal que prohíba la pornografía ultrafalsa, algunos estados han comenzado a crear su propia legislación, que puede ser difícil de hacer cumplir. Algunos estados sólo permiten demandas civiles mientras que otros permiten cargos penales, pero como el gobierno de Washington Correo señala, es difícil saber a quién demandar. Mani, cuya hija se vio afectada por las falsificaciones de Westfield, dijo que presentó un informe policial pero todavía le preocupa cómo esto podría afectar a su hija en el futuro. «Nadie puede garantizar que esto no la afectará profesional, académica o socialmente», dijo al Diario. «Me aterroriza cómo y cuándo saldrá esto a la luz». Y mientras tanto, su hija todavía tiene que asistir a la escuela con quien creó las fotos en primer lugar.