¿Por qué todos mis avatares de IA tienen senos enormes?

Imagina tu yo perfecto. ¿Tiene una piel impecable, senos grandes, un rostro simétrico, senos grandes, cabello impecablemente peinado y, ¿mencioné, senos grandes? ¿No? Bueno, muchos de los avatares femeninos creados por Lensa AI, la aplicación de generación de fotos recientemente popular, parecen tener una, er, dos, cosas en común.

¿Por qué estamos aprendiendo todo esto? Lensa, que existe desde 2018, comenzó un generador de autorretratos en noviembre. Se ha disparado hasta el puesto número 1 en la App Store, y ahora estás viendo estos autorretratos en todas partes. Aunque la descarga de la aplicación es gratuita, para generar sus avatares mágicos, debe pagar: $ 3.99 obtiene 50 avatares, $ 5.99 obtiene 100 y $ 7.99 obtiene 200.

Elegí esa opción de pago medio (100 avatares de IA por $5.99) porque técnicamente es un gasto comercial, pero ¿qué haría con doscientos fotos falsas de mi mismo? Subí 13 fotos de mi cara, siguiendo la recomendación de la aplicación de diez a 20 disparos a la cabeza (no se recomiendan fotos de cuerpo completo) desde varios ángulos para permitir los mejores resultados. Después de 20 minutos, mis 100 Avatares Mágicos estaban listos.

Los resultados fueron un poco decepcionantes, pero aun así divertidos de una manera autoindulgente. Los mejores parecían ilustraciones bastante precisas, no fotorrealistas, pero aún así compartían un parecido conmigo. La mayoría de los avatares mostraban a una mujer ambiguamente asiática con la que supongo que podría tener una relación lejana. Desafortunadamente, pero como era de esperar, Lensa AI parece tener dificultad para generar imágenes precisas de personas de color. La creadora Quen Blackwell recuperó sus IA y escribió: “Toda esa mierda de IA me convirtió en un esclavo. no más. se acabó la diversión”. ¡Ay! Soy mitad blanca, mitad filipina, y cualquier matiz en mi apariencia parecía perderse en el proceso. Casi todos los avatares tenían el brillo pulido de una foto Facetuned: la piel era demasiado suave, los rasgos faciales eran demasiado simétricos. Aunque solo dos de mis 13 fotos enviadas contenían la más mínima sugerencia de escote, la aplicación llenó los vacíos literalmente. Alrededor de una cuarta parte de las imágenes mostraban a una mujer que apenas se parecía a mí con un pecho que solo puede describirse como amplio.

Esto parece ser algo común entre los Avatares Mágicos femeninos. “Me di cuenta de que lo que les faltaba en semejanza conmigo lo compensaban con tetas”, escribió Eva Evans (@itsevaevans) por correo electrónico. También hizo un TikTok al respecto. «Eran más imágenes de chicas calientes genéricas con ojos azules y algunas otras características propias».

El problema ha sido lo suficientemente frecuente como para que la página de preguntas frecuentes de Prisma Labs Magic Avatar tenga una sección titulada «¿Por qué las usuarias tienden a obtener resultados con una apariencia demasiado sexual?» Dice que debido a que el programa fue entrenado en «contenido de Internet sin filtrar», Lensa AI «refleja los sesgos que los humanos incorporan en las imágenes que producen». En otras palabras, aprendió observándonos. Y ahora algunos cirujanos plásticos dicen que los pacientes traen las suyas para fotos de referencia. ¡Ay doble!

Lensa AI también afirma que la «sexualización ocasional» ocurre en todas las categorías de género, aunque es notablemente más fácil encontrar ejemplos de mujeres. Aún así, con fines de investigación y curiosidad autoindulgente, compré 100 Avatares Mágicos de mi esposo por $ 5.99 adicionales. Hubo algunas diferencias inmediatas.

Mis retratos se dividieron en diez categorías estilísticas diferentes: anime, elegante, ligero, cósmico, fantasía, kawaii, pop, iridiscente, enfoque y princesa de hadas. Sus diez categorías fueron Superhéroe, Elegante, Mística, Ciencia ficción, Astronauta, Anime, Aventura, Cyborg, Cósmica y Estrella de rock. (A los hombres les encantan las aventuras y el espacio; a las mujeres les gustan las hadas y ser lindas). Algunas imágenes hicieron que su cuello fuera más grueso y sus hombros más anchos; cualquier avatar que mostrara más que su rostro le daba un cuerpo anodino de Marvel, con bíceps de alguna manera visibles incluso con la ropa más voluminosa. A diferencia de la mía, la mayoría de sus imágenes se parecían mucho a él. (Él también es blanco). Incluso había algunos avatares que habría creído que eran fotografías reales de él si no hubiera pagado personalmente $5.99 por una computadora para hacerlos. Si bien los rostros de sus avatares estaban igual de suavizados y pulidos que los míos, ninguno parecía demasiado sexualizado. Sin embargo, uno tenía 12 dedos.

El avatar de IA del escritor.
Foto: Lensa

Lensa AI prohíbe el «uso intencional de la aplicación para crear contenido explícito» según sus términos de uso, pero es bastante fácil engañar a Lensa AI para que produzca contenido NSFW. Cuando TechCrunch alimentó a la IA con imágenes manipuladas de la cara de una celebridad en el torso desnudo de otra persona, Lensa AI generó casi una docena de fotos en topless con la cara de esa celebridad, un problema que exacerba el problema de la pornografía vengativa. Un comunicado de prensa de Stability AI, la compañía que desarrolló Stable Diffusion, afirma que espera que los usuarios se comprometan con el programa de una «manera ética, moral y legal». También ha tomado medidas recientes para dificultar la generación de imágenes pornográficas utilizando su modelo, incluida la eliminación de todas las imágenes pornográficas y de desnudos de los datos de entrenamiento de Stable Diffusion. Sin embargo, «todos estos esfuerzos aún no han hecho que la IA esté absolutamente a salvo del contenido sesgado y las imágenes explícitas», afirma el comunicado. Por esta razón, la compañía dice que el programa no está destinado a menores de edad.

También está el tema de privacidad del usuario, una preocupación que surge cada vez que una aplicación de edición de rostros se vuelve viral. La política de privacidad de Lensa AI establece que, si bien el programa elimina todas las fotos y metadatos de imágenes enviados por los usuarios después de 24 horas, Lensa usa sus fotos para ayudar a entrenar su IA. Por supuesto, eso hará poco para desanimar a aquellos de nosotros que descaradamente buscamos formas de alimentar nuestro ego.

«Hay algo tanto masturbatorio como masoquista en verse representado como una versión ‘perfeccionada’ y totalmente inalcanzable de uno mismo», escribió Evans por correo electrónico, algo que amplía en una publicación de Substack. “Mis avatares creados por Lensa AI no se parecían lo suficiente a mí para satisfacer esa picazón, así que inmediatamente fui a otra aplicación de IA en busca de mejores avatares (y la gloriosa miseria de enfrentarme a una mejor versión de mí mismo)”. ¡Esa es una solución!