\n<\/p>\n
una mujer pelirroja<\/span> se para en la luna, su rostro oscurecido. Su cuerpo desnudo parece pertenecer a un p\u00f3ster que encontrar\u00edas en la pared de la habitaci\u00f3n de un adolescente hormonal, es decir, hasta que llegas a su torso, donde tres brazos salen de sus hombros.<\/p>\n Las marcas y los artistas han utilizado sistemas impulsados \u200b\u200b\u200b\u200bpor IA como Stable Diffusion, que traducen mensajes de texto en im\u00e1genes, para crear im\u00e1genes conceptuales, impresiones premiadas (aunque controvertidas) y campa\u00f1as de marketing en toda regla.<\/p>\n Pero algunos usuarios, con la intenci\u00f3n de explorar el lado m\u00e1s turbio de los sistemas, los han estado probando para un caso de uso diferente: la pornograf\u00eda.<\/p>\n La pornograf\u00eda con IA es tan inquietante e imperfecta como cabr\u00eda esperar (es probable que esa pelirroja en la luna no haya sido generada por alguien con un fetiche adicional por los brazos). Pero a medida que la tecnolog\u00eda contin\u00faa mejorando, suscitar\u00e1 preguntas desafiantes tanto para los expertos en \u00e9tica de la IA como para los trabajadores sexuales.<\/p>\n La pornograf\u00eda creada con los \u00faltimos sistemas de generaci\u00f3n de im\u00e1genes lleg\u00f3 por primera vez a la escena a trav\u00e9s de los foros de discusi\u00f3n 4chan y Reddit a principios de este mes, luego de que un miembro de 4chan filtrara el sistema de difusi\u00f3n estable de c\u00f3digo abierto antes de su lanzamiento oficial. Luego, la semana pasada, se lanz\u00f3 lo que parece ser uno de los primeros sitios web dedicados a la generaci\u00f3n de pornograf\u00eda AI de alta fidelidad.<\/p>\n Llamado Porn Pen, el sitio web permite a los usuarios personalizar la apariencia de modelos desnudos generados por IA, todos los cuales son mujeres, usando etiquetas alternables como \u00abnena\u00bb, \u00abmodelo de lencer\u00eda\u00bb, \u00abgordita\u00bb, etnias (por ejemplo, \u00abrusa\u00bb y \u00bb Latina\u201d) y fondos (por ejemplo, \u201cdormitorio\u201d, \u201cducha\u201d y comodines como \u201cluna\u201d). Los botones capturan modelos desde el frente, la parte posterior o el costado y cambian la apariencia de la foto generada (p. ej., \u00abfoto de pel\u00edcula\u00bb, \u00abselfie en espejo\u00bb). Sin embargo, debe haber un error en las selfies del espejo, porque en la fuente de im\u00e1genes generadas por el usuario, algunos espejos en realidad no reflejan a una persona, pero, por supuesto, estos modelos no son personas en absoluto. Porn Pen funciona como \u00abEsta persona no existe\u00bb, solo que es NSFW.<\/p>\n En el foro Hacker News de Y Combinator, un usuario que pretende ser el creador describe a Porn Pen como un \u00abexperimento\u00bb que utiliza modelos de texto a imagen de \u00faltima generaci\u00f3n. \u201cElimin\u00e9 expl\u00edcitamente la capacidad de especificar texto personalizado para evitar que se generen im\u00e1genes da\u00f1inas\u201d, escribieron. \u00abSe agregar\u00e1n nuevas etiquetas una vez que el algoritmo de ingenier\u00eda r\u00e1pida se ajuste a\u00fan m\u00e1s\u00bb. El creador no respondi\u00f3 a la solicitud de comentarios de TechCrunch.<\/p>\n Pero Porn Pen plantea una serie de cuestiones \u00e9ticas, como los sesgos en los sistemas de generaci\u00f3n de im\u00e1genes y las fuentes de los datos de los que surgieron. M\u00e1s all\u00e1 de las implicaciones t\u00e9cnicas, uno se pregunta si la nueva tecnolog\u00eda para crear pornograf\u00eda personalizada, suponiendo que se imponga, podr\u00eda perjudicar a los creadores de contenido para adultos que se ganan la vida haciendo lo mismo.<\/p>\n \u201cCreo que es algo inevitable que esto llegue a existir cuando [OpenAI\u2019s] DALL-E lo hizo\u201d, dijo Os Keyes, candidato a doctorado en la Universidad de Seattle, a TechCrunch por correo electr\u00f3nico. \u201cPero sigue siendo deprimente c\u00f3mo tanto las opciones como los valores predeterminados replican una mirada muy heteronormativa y masculina\u201d.<\/p>\n Ashley, una trabajadora sexual y organizadora de pares que trabaja en casos relacionados con la moderaci\u00f3n de contenido, cree que el contenido generado por Porn Pen no es una amenaza para las trabajadoras sexuales en su estado actual.<\/p>\n \u201cHay un sinf\u00edn de medios por ah\u00ed\u201d, dijo Ashley, quien no quer\u00eda que se publicara su apellido por temor a ser acosada por su trabajo. \u201cPero las personas se diferencian no solo por hacer los mejores medios, sino tambi\u00e9n por ser una persona accesible e interesante. Pasar\u00e1 mucho tiempo antes de que la IA pueda reemplazar eso\u201d.<\/p>\n En los sitios de pornograf\u00eda monetizables existentes como OnlyFans y ManyVids, los creadores adultos deben verificar su edad e identidad para que la empresa sepa que son adultos que dan su consentimiento. Los modelos pornogr\u00e1ficos generados por IA no pueden hacer esto, por supuesto, porque no son reales.<\/p>\n Sin embargo, a Ashley le preocupa que si los sitios de pornograf\u00eda toman medidas en\u00e9rgicas contra la pornograf\u00eda de IA, podr\u00eda generar restricciones m\u00e1s severas para las trabajadoras sexuales, que ya enfrentan una mayor regulaci\u00f3n de la legislaci\u00f3n como SESTA\/FOSTA. El Congreso present\u00f3 la Ley de estudio de trabajadores sexuales seguros en 2019 para examinar los efectos de esta legislaci\u00f3n, que dificulta el trabajo sexual en l\u00ednea. Este estudio encontr\u00f3 que \u201clas organizaciones comunitarias [had] inform\u00f3 un aumento de la falta de vivienda de las trabajadoras sexuales\u201d despu\u00e9s de perder la \u201cestabilidad econ\u00f3mica proporcionada por el acceso a las plataformas en l\u00ednea\u201d.<\/p>\n \u201cSESTA se vendi\u00f3 como una lucha contra el tr\u00e1fico sexual de ni\u00f1os, pero cre\u00f3 una nueva ley penal sobre la prostituci\u00f3n que no ten\u00eda nada que ver con la edad\u201d, dijo Ashley.<\/p>\n Actualmente, pocas leyes en todo el mundo se refieren a la pornograf\u00eda falsificada. En los EE. UU., solo Virginia y California tienen regulaciones que restringen ciertos usos de medios pornogr\u00e1ficos falsificados y falsificados.<\/p>\n Sistemas como Stable Diffusion \u201caprenden\u201d a generar im\u00e1genes a partir de texto con el ejemplo. Alimentados con miles de millones de im\u00e1genes etiquetadas con anotaciones que indican su contenido, por ejemplo, una imagen de un perro con la etiqueta \u00abDachshund, lente gran angular\u00bb, los sistemas aprenden que palabras y frases espec\u00edficas se refieren a estilos art\u00edsticos, est\u00e9ticas, ubicaciones, etc. .<\/p>\n Esto funciona relativamente bien en la pr\u00e1ctica. Un aviso como \u00abun p\u00e1jaro pintando al estilo de Van Gogh\u00bb predeciblemente producir\u00e1 una imagen al estilo de Van Gogh que representa un p\u00e1jaro. Pero se vuelve m\u00e1s complicado cuando las indicaciones son m\u00e1s vagas, se refieren a estereotipos o tratan temas con los que los sistemas no est\u00e1n familiarizados.<\/p>\n Por ejemplo, Porn Pen a veces genera im\u00e1genes sin una persona en absoluto, presumiblemente una falla del sistema para comprender el aviso. Otras veces, como se mencion\u00f3 anteriormente, muestra f\u00edsicamente improbable <\/em>modelos, t\u00edpicamente con extremidades adicionales, pezones en lugares inusuales y carne retorcida.<\/p>\n \u00abPor definici\u00f3n [these systems are] va a representar a aquellos cuyos cuerpos son aceptados y valorados en la sociedad en general\u201d, dijo Keyes, y se\u00f1al\u00f3 que Porn Pen solo tiene categor\u00edas para personas cisnormativas. \u00abNo me sorprende que termines con un n\u00famero desproporcionadamente alto de mujeres, por ejemplo\u00bb.<\/p>\n Si bien Stable Diffusion, uno de los sistemas que probablemente respaldan a Porn Pen, tiene relativamente pocas im\u00e1genes \u00abNSFW\u00bb en su conjunto de datos de entrenamiento, los primeros experimentos de usuarios de Redditors y 4chan muestran que es bastante competente para generar falsificaciones profundas pornogr\u00e1ficas de celebridades (Porn Pen, tal vez no por coincidencia). – tiene una opci\u00f3n de \u00abcelebridad\u00bb). Y debido a que es de c\u00f3digo abierto, no habr\u00eda nada que impidiera que el creador de Porn Pen ajustara el sistema en im\u00e1genes de desnudos adicionales.<\/p>\n \u201cDefinitivamente no es genial generar [porn] de una persona existente\u201d, dijo Ashley. \u201cSe puede usar para acosarlos\u201d.<\/p>\n La pornograf\u00eda deepfake a menudo se crea para amenazar y acosar a las personas. Estas im\u00e1genes casi siempre se revelan sin el consentimiento del sujeto con intenciones maliciosas. En 2019, la empresa de investigaci\u00f3n Sensity AI descubri\u00f3 que el 96 % de los videos deepfake en l\u00ednea eran pornograf\u00eda no consentida.<\/p>\n Mike Cook, un investigador de inteligencia artificial que forma parte del colectivo Knives and Paintbrushes, dice que existe la posibilidad de que el conjunto de datos incluya a personas que no han dado su consentimiento para que su imagen se use para capacitaciones de esta manera, incluidas las trabajadoras sexuales.<\/p>\n \u201cMuchos de [the people in the nudes in the training data] pueden obtener sus ingresos de la producci\u00f3n de pornograf\u00eda o contenido relacionado con la pornograf\u00eda\u201d, dijo Cook. \u201cAl igual que los artistas pl\u00e1sticos, los m\u00fasicos o los periodistas, las obras que han producido estas personas se utilizan para crear sistemas que tambi\u00e9n socavan su capacidad para ganarse la vida en el futuro\u201d.<\/p>\n En teor\u00eda, un actor porno podr\u00eda usar las protecciones de derechos de autor, la difamaci\u00f3n y potencialmente incluso las leyes de derechos humanos para luchar contra el creador de una imagen falsa. Pero como se\u00f1ala un art\u00edculo de MIT Technology Review, la recopilaci\u00f3n de pruebas en apoyo del argumento legal puede resultar un gran desaf\u00edo.<\/p>\n Cuando las herramientas de inteligencia artificial m\u00e1s primitivas popularizaron el porno falso hace varios a\u00f1os, una investigaci\u00f3n de Wired descubri\u00f3 que los videos falsos no consensuados estaban acumulando millones de visitas en los principales sitios de pornograf\u00eda como Pornhub. Otros trabajos deepfakes encontraron un hogar en sitios similares a Porn Pen: seg\u00fan los datos de Sensity, los cuatro principales sitios web de pornograf\u00eda deepfake recibieron m\u00e1s de 134 millones de visitas en 2018.<\/p>\n \u201cLa s\u00edntesis de im\u00e1genes de IA es ahora una tecnolog\u00eda generalizada y accesible, y no creo que nadie est\u00e9 realmente preparado para las implicaciones de esta ubicuidad\u201d, continu\u00f3 Cook. \u201cEn mi opini\u00f3n, nos hemos adentrado muy, muy lejos en lo desconocido en los \u00faltimos a\u00f1os sin tener en cuenta el impacto de esta tecnolog\u00eda\u201d.<\/p>\n Al punto de Cook, uno de los sitios m\u00e1s populares de pornograf\u00eda generada por IA se expandi\u00f3 a fines del a\u00f1o pasado a trav\u00e9s de acuerdos de socios, referencias y una API, lo que permiti\u00f3 que el servicio, que alberga cientos de falsificaciones profundas no consensuadas, sobreviviera a las prohibiciones en su infraestructura de pagos. Y en 2020, los investigadores descubrieron un bot de Telegram que generaba im\u00e1genes falsas abusivas de m\u00e1s de 100 000 mujeres, incluidas ni\u00f1as menores de edad.<\/p>\n \u201cCreo que veremos a muchas m\u00e1s personas probando los l\u00edmites de la tecnolog\u00eda y los l\u00edmites de la sociedad en la pr\u00f3xima d\u00e9cada\u201d, dijo Cook. \u201cDebemos aceptar cierta responsabilidad por esto y trabajar para educar a las personas sobre las ramificaciones de lo que est\u00e1n haciendo\u201d.<\/p>\n<\/p><\/div>\n