Este fin de semana, el La aplicación de edición de fotos Lensa inundó las redes sociales con «avatares mágicos» celestiales, iridiscentes e inspirados en el anime. Como es típico en nuestro ciclo de noticias de Internet de pato batido, los argumentos sobre por qué el uso de la aplicación era problemático proliferaron a una velocidad solo superada por la proliferación de los propios avatares.
Ya me han dado una conferencia sobre los peligros de cómo el uso de la aplicación nos implica en la enseñanza de la IA, el robo de los artistas y participar en prácticas depredadoras de intercambio de datos. Cada preocupación es legítima, pero menos discutidas son las violaciones más siniestras inherentes a la aplicación, a saber, la tendencia algorítmica de sexualizar a los sujetos en un grado que no solo es incómodo sino también potencialmente peligroso.
Los términos de servicio de Lensa instruyen a los usuarios a enviar solo contenido apropiado que contenga «no desnudos» y «no niños, solo adultos». Y, sin embargo, muchos usuarios, principalmente mujeres, han notado que incluso cuando suben fotos modestas, la aplicación no solo genera desnudos, sino que también atribuye a sus imágenes características caricaturescas y sexualizadas, como poses sensuales y senos gigantes. Yo, por ejemplo, recibí varios resultados completamente desnudos a pesar de subir solo fotos de rostros. La sexualización también fue a menudo racializada: casi una docena de mujeres de color me dijeron que Lensa blanqueó su piel y anglicanizó sus rasgos, y una mujer de ascendencia asiática me dijo que en las fotos «donde no me veo blanca, literalmente me dieron ahegao». cara.» Otra mujer que compartió tanto las imágenes completamente vestidas que subió como los resultados en topless que produjeron, que eligió modificar con «algunos emojis para un poco de modestia porque Dios mío», me dijo: «Honestamente, me sentí muy violada después de verlo».
Estoy acostumbrado a sentirme violado por internet. Habiendo sido objeto de varias campañas de acoso, he visto mi imagen manipulada, distorsionada y distribuida sin mi consentimiento en múltiples ocasiones. Debido a que no estoy cara a cara como trabajadora sexual, la novedad de cazar y hacer circular mi imagen es, para algunos, un deporte. Debido a que el público en general no percibe a las trabajadoras sexuales como seres humanos o merecedores de derechos básicos, este comportamiento se celebra en lugar de condenarse. Debido a que a menudo se supone que el trabajo sexual es una falla moral en lugar de un trabajo, nuestra deshumanización es redundante. Me conecté a Twitter para ver mi cara modificada con Photoshop en los cuerpos de otras mujeres, fotos mías y de clientes desnudos en una sesión, y una vez incluso una búsqueda de palabras compuesta por mi cara, detalles personales e intereses de investigación. No le tengo miedo a Lensa.
Estoy lo suficientemente insensible a los horrores de la tecnología que decidí ser mi propia rata de laboratorio. Realicé algunos experimentos: primero, solo fotos de BDSM y mazmorras; a continuación, mis fotos más femeninas bajo la opción de género “masculino”; más tarde, selfies de conferencias académicas, todas las cuales produjeron senos de tamaño espectacular y desnudez total.
Luego me embarqué en lo que sabía que sería un viaje por el infierno y decidí usar mi imagen para probar la otra restricción de la aplicación: «No niños, solo adultos». (Algunos de los resultados se encuentran a continuación: tenga en cuenta que muestran imágenes sexualizadas de niños).
Ilustración: Olivia Snow vía Lensa
Tengo pocas fotos mías de la infancia. Hasta el final de mi adolescencia y entre mi cabello rebelde, dientes irregulares y los lentes bifocales que comencé a usar a los siete años, mi apariencia podría describirse generosamente como «ratón». También crecí antes de la llegada del teléfono inteligente, y cualquier otra imagen probablemente esté enterrada en los álbumes de fotos de parientes lejanos. Pero logré juntar las 10 fotos mínimas requeridas para ejecutar la aplicación y esperé a ver cómo me transformaba de una torpe niña de seis años a una princesa hada.
Los resultados fueron horribles.
Ilustración: Olivia Snow vía Lensa
En algunos casos, la IA parecía reconocer el cuerpo de mi hijo y, afortunadamente, se olvidó de agregar senos. Esto probablemente no fue un reflejo de la ética personal de la tecnología, sino de los patrones que identificó en mi foto; tal vez percibió mi pecho plano como el de un hombre adulto. En otras fotos, la IA adjuntó orbes a mi pecho que eran distintos de la ropa pero también diferentes a las fotos de desnudos que habían producido mis otras pruebas.
Lo intenté de nuevo, esta vez con una mezcla de fotos de la infancia y selfies. Lo que resultó fueron fotos completamente desnudas de un rostro adolescente y, a veces, infantil, pero con un cuerpo claramente adulto. Similar a mis pruebas anteriores que generaron miradas y poses seductoras, este conjunto produjo una especie de timidez: una espalda desnuda, cabello despeinado, un avatar con mi rostro infantil sosteniendo una hoja entre sus pechos desnudos de adulto. Muchos recordaban inquietantemente la sesión de fotos de Miley Cyrus con Annie Leibovitz en 2008 para Feria de la vanidad, que presentaba a Cyrus, de 15 años, agarrando una sábana de satén alrededor de su cuerpo desnudo. Lo perturbador de la imagen en ese momento era la combinación de su rostro sin maquillaje, casi angelical, con el cuerpo de alguien que acababa de tener relaciones sexuales.