\n<\/p>\n
Los expertos advierten que ahora est\u00e1 en marcha una nueva era horrible de im\u00e1genes ultrarrealistas de abuso sexual infantil generadas por inteligencia artificial. Los delincuentes est\u00e1n utilizando modelos de IA generativa de c\u00f3digo abierto descargables, que pueden producir im\u00e1genes, con efectos devastadores. La tecnolog\u00eda se est\u00e1 utilizando para crear cientos de nuevas im\u00e1genes de ni\u00f1os que han sido abusados \u200b\u200banteriormente. Los delincuentes est\u00e1n compartiendo conjuntos de datos de im\u00e1genes de abuso que pueden usarse para personalizar modelos de IA y est\u00e1n comenzando a vender suscripciones mensuales a material de abuso sexual infantil (CSAM) generado por IA.<\/p>\n
Los detalles de c\u00f3mo se est\u00e1 abusando de la tecnolog\u00eda se incluyen en un nuevo y amplio informe publicado por Internet Watch Foundation (IWF), una organizaci\u00f3n sin fines de lucro con sede en el Reino Unido que rastrea y elimina contenido abusivo de la web. En junio, la IWF dijo que hab\u00eda encontrado siete URL en la web abierta que conten\u00edan material sospechoso de haber sido elaborado por IA. Ahora, su investigaci\u00f3n en un foro CSAM de la web oscura, que proporciona una instant\u00e1nea de c\u00f3mo se utiliza la IA, ha encontrado casi 3.000 im\u00e1genes generadas por IA que la IWF considera ilegales seg\u00fan la ley del Reino Unido.<\/p>\n
Seg\u00fan la investigaci\u00f3n de la IWF, las im\u00e1genes generadas por IA incluyen violaciones de beb\u00e9s y ni\u00f1os peque\u00f1os, ni\u00f1os preadolescentes famosos que sufren abusos y contenido BDSM con adolescentes. \u00abHemos visto demandas, discusiones y ejemplos reales de material de abuso sexual infantil protagonizado por celebridades\u00bb, dice Dan Sexton, director de tecnolog\u00eda de la IWF. A veces, dice Sexton, a las celebridades se les reduce la edad para que parezcan ni\u00f1os. En otros casos, las celebridades adultas son retratadas como personas que abusan de ni\u00f1os.<\/p>\n
Si bien los informes sobre CSAM generados por IA todav\u00eda quedan eclipsados \u200b\u200bpor la cantidad de im\u00e1genes y videos de abuso reales que se encuentran en l\u00ednea, Sexton dice que est\u00e1 alarmado por la velocidad del desarrollo y el potencial que crea para nuevos tipos de im\u00e1genes abusivas. Los hallazgos son consistentes con otros grupos que investigan la propagaci\u00f3n del CSAM en l\u00ednea. En una base de datos compartida, investigadores de todo el mundo han identificado 13.500 im\u00e1genes de abuso y explotaci\u00f3n sexual infantil generadas por IA, le dice a WIRED Lloyd Richardson, director de tecnolog\u00eda de la informaci\u00f3n del Centro Canadiense para la Protecci\u00f3n Infantil. \u00abEso es s\u00f3lo la punta del iceberg\u00bb, dice Richardson.<\/p>\n
Una pesadilla realista<\/p>\n
La cosecha actual de generadores de im\u00e1genes de IA, capaces de producir arte convincente, fotograf\u00edas realistas y dise\u00f1os extravagantes, proporciona un nuevo tipo de creatividad y la promesa de cambiar el arte para siempre. Tambi\u00e9n se han utilizado para crear falsificaciones convincentes, como Balenciaga Pope y una versi\u00f3n temprana del arresto de Donald Trump. Los sistemas se basan en grandes vol\u00famenes de im\u00e1genes existentes, a menudo extra\u00eddas de la web sin permiso, y permiten crear im\u00e1genes a partir de simples mensajes de texto. Pedir un \u201celefante con sombrero\u201d resultar\u00e1 precisamente en eso.<\/p>\n
No sorprende que los delincuentes que crean CSAM hayan adoptado herramientas de generaci\u00f3n de im\u00e1genes. \u00abLa forma en que se generan estas im\u00e1genes es, por lo general, utilizando software disponible abiertamente\u00bb, dice Sexton. Los delincuentes a quienes la IWF ha visto hacen referencia con frecuencia a Stable Diffusion, un modelo de IA puesto a disposici\u00f3n por la empresa Stability AI, con sede en el Reino Unido. La empresa no respondi\u00f3 a la solicitud de comentarios de WIRED. En la segunda versi\u00f3n de su software, lanzada a finales del a\u00f1o pasado, la compa\u00f1\u00eda cambi\u00f3 su modelo para dificultar que las personas creen CSAM y otras im\u00e1genes de desnudos.<\/p>\n
Sexton dice que los delincuentes est\u00e1n utilizando versiones anteriores de modelos de IA y ajust\u00e1ndolas para crear material ilegal de ni\u00f1os. Esto implica alimentar un modelo con im\u00e1genes de abuso existentes o fotograf\u00edas de rostros de personas, lo que permite a la IA crear im\u00e1genes de individuos espec\u00edficos. \u00abEstamos viendo modelos perfeccionados que crean nuevas im\u00e1genes de las v\u00edctimas existentes\u00bb, dice Sexton. Los perpetradores est\u00e1n \u201cintercambiando cientos de nuevas im\u00e1genes de v\u00edctimas existentes\u201d y haciendo solicitudes sobre individuos, dice. Algunos hilos en foros de la web oscura comparten conjuntos de rostros de v\u00edctimas, seg\u00fan la investigaci\u00f3n, y un hilo se titul\u00f3: \u00abRecursos fotogr\u00e1ficos para IA y chicas espec\u00edficas para deepfaking\u00bb.<\/p>\n<\/div>\n