¿Por qué lo hice? ¿Por qué pagué $8 por 50 retratos diferentes, abstractos, impresionistas y alucinantes de mí mismo? ¿Soy tan narcisista? ¿Somos todos?
Nuestro Instagram y otros feeds sociales están actualmente inundados con estas interpretaciones de alta resolución de nuestros rostros y varios lascivo, también conocidos como Avatares Mágicos. Todos vienen por cortesía de la aplicación Lensa, un motor de generación de imágenes de IA que crea algunas interpretaciones salvajes y, a menudo, basadas en la fantasía de las imágenes que alimentamos.
Ha habido otras plataformas similares como Reface, que te permiten poner tu cara dentro de clips de películas famosas. Todo el mundo lo estaba haciendo durante un tiempo. Me convertí en Tom Cruise (se abre en una pestaña nueva).
La aplicación era gratuita (con muchos anuncios, si mal no recuerdo) y finalmente todos decidimos que tal vez no era una buena idea subir nuestras imágenes a algún desarrollador de aplicaciones de rando.
Lensa llena ese espacio, pero con un producto que casi exige que pagues por él, primero con una venta fuerte con una tarifa de suscripción costosa y luego, de manera más informal, con una oferta por lotes de pago por imagen de IA.
Lo que me sorprende es la gran cantidad de personas que pagan para que sus imágenes sean digeridas y luego escupidas como sorprendentes obras de arte de IA. El FOMO es tan fuerte aquí que todos (incluso este reportero ahora avergonzado) están sucumbiendo. Mi hijo adulto gastó casi $15 en un lote de imágenes de su novia.
no estoy orgulloso
¿Por qué lo hice? Dos razones. Me cansé de ver los Lensa Magic Avatars de otras personas en mi feed y también necesitaba algo nuevo para Instagram. Soy un poco así con mis feeds sociales, siempre tratando de mantener la tubería llena por razones que difícilmente puedo explicar aquí.
Agregar mis imágenes de IA a la creciente legión de majestuosos retratos generados por Lensa de Instagram no fue difícil. La aplicación está disponible gratuitamente en iOS y Android. Abrirlo le presenta una oferta de suscripción de $ 49.99 que puede «cancelar en cualquier momento». Personalmente, odio las aplicaciones como esta, las que te provocan con una característica increíblemente genial pero exigen pagos en efectivo exorbitantes por adelantado (también puedo ser barato).
Como muchas otras aplicaciones, la suboferta es una especie de fachada. Si lo ignora, la aplicación lo lleva inmediatamente a la sección de pago por juego, donde puede comprar desde 50 ($ 7.99) hasta 100 ($ 14.99) Avatares mágicos generados por IA sin suscribirse a nada.
Ahora, no puedo recordar la última vez que pagué $ 8 por el privilegio de usar una sola función de la aplicación, pero ese era el canto de sirena de esos hermosos retratos. Racionalicé el costo en mi cabeza, «Vamos, pagarías eso por dos donas Krispy Kreme y un agua», que es algo que compré la semana pasada.
Después de eso, la aplicación te pide que cargues entre 10 y 20 imágenes tuyas en varias poses y con una variedad de expresiones. Decidí examinar la carpeta «Selfies» de mi iPhone, donde encontré un montón de fotos apropiadas. Subí un lote, pero Lensa rechazó algunos como inutilizables (no dijo por qué), así que seleccioné algunos más. En retrospectiva, debería haber elegido muchas menos fotos de perfil e imágenes conmigo haciendo caras tontas. Al igual que con la mayoría de los sistemas de imágenes de IA, obtienes lo que pones en Lensa.
En general, estoy satisfecho con los resultados (puedes ver algunos ejemplos arriba), pero salí inquieto, sintiéndome un poco como si me hubieran jugado. Debería haber hecho algunas preguntas, muchas de hecho, antes de subir mis fotos.
Un día después de que Lensa entregó 50 imágenes mías en 4K con IA (permanecen en la aplicación, pero puedes descargar tus favoritas en resolución estándar o 4K), envié al desarrollador de Lensa, Prisma Labs, una lista de preguntas:
- ¿Almacenáis las fotos que os suben? Si es así, ¿están encriptados?
- ¿Cuándo lanzaste la parte de Magic Avatar?
- ¿Cómo, exactamente, se utiliza la IA para generar las imágenes?
- ¿Cuántas personas han subido sus imágenes?
- ¿Por qué cobran por adelantado la tarifa de suscripción cuando las personas solo pueden pagar $ 7.99 por 50 imágenes?
- ¿Cómo está abordando las preocupaciones sobre las imágenes de las personas que se cargan sin su permiso?
- ¿Has oído hablar de algunos que se utilizan para generar contenido para adultos?
De alguna manera, podría tomar cualquiera de estas preguntas, o todas, y aplicarlas virtualmente a un sistema generativo de imágenes de IA. Si bien todos estos sistemas de IA son emocionantes, se sienten como cajas negras. Para algunos, simplemente ponemos indicaciones de texto, pero aún no entendemos cómo están generando arte.
El trabajo pesado detrás de los Avatares Mágicos de Lensa, por ejemplo, lo lleva a cabo la plataforma gratuita de generación de imágenes de código abierto Stable Diffusion, una de las muchas que ha sido acusada de apropiarse del trabajo de los artistas. (se abre en una pestaña nueva) para entrenar su modelo de IA.
Pero esa es solo una de mis preocupaciones. Otro es ¿qué sucede con las imágenes que tan voluntariamente le proporcionamos? ¿Cómo sabemos, por ejemplo, que las imágenes que cargamos no se están utilizando para entrenar más a la IA? No veo forma de optar por no participar en esa posibilidad.
Tampoco hay indicaciones que adviertan que no debe cargar la imagen de alguien sin permiso. Escuché informes de que algunas personas están usando el sistema para generar imágenes pornográficas de personas desprevenidas. (se abre en una pestaña nueva) sin su consentimiento.
¿Adónde van nuestras imágenes originales cuando el trabajo de Lensa está terminado? Sin información que prometa que Lensa los está eliminando, debo suponer que los mantienen todos archivados. Solo podemos esperar que al menos estén encriptados.
Prisma Labs responde
Tengo buenas noticias. Aunque Prisma Labs no incluye mucha de la información que considero necesaria en su aplicación y no respondió mis preguntas directamente, sí me indicó una voluminosa sección de preguntas frecuentes. (se abre en una pestaña nueva) que aborda algunas de estas preocupaciones.
Sobre la cuestión de qué hace Lensa con nuestras imágenes, Prisma Labs escribe que se eliminan de los servidores de Prisma Labs una vez que se completa el procesamiento. Sin embargo, las preguntas frecuentes también contienen este lenguaje:
«Almacenamos los avatares durante el tiempo que sea necesario para brindarles a nuestros usuarios el servicio. Tenga en cuenta que actualmente está en marcha una nueva función que permitiría a los usuarios eliminar permanentemente sus avatares de nuestros servidores».
Dicho de otra manera, tus fotos originales se han ido, pero ¿esas imágenes que creó Lensa? Prisma Labs todavía los tiene. Por cierto, no se menciona el cifrado de datos.
Las preguntas frecuentes no abordan las consideraciones sobre la propiedad de la imagen: la imagen que cargue debe ser suya o a la que tenga derecho de acceso. Aborda imágenes «sexualizadas», pero principalmente la tendencia de la IA de sexualizar personajes femeninos. Más importante aún, Prisma Labs agrega: «Nuestros Términos de uso prohíben absolutamente el uso intencional de la aplicación para crear contenido explícito y obliga a los usuarios de Lensa a cumplir con ese requisito».
No está claro cómo Prisma Labs está vigilando esa regla en particular y, aún menos útil, Prisma Labs agrega esta nota: «Desafortunadamente, todos estos esfuerzos aún no han hecho que la IA esté absolutamente a salvo del contenido sesgado y las imágenes explícitas. Por lo tanto, estipulamos que el producto no está destinado al uso de menores y advierte a los usuarios sobre los riesgos potenciales del contenido».
No puedo decirte legítimamente que no pruebes la aplicación, especialmente después de que lo hice. Sin embargo, antes de hacerlo, asegúrese de sentirse cómodo con las respuestas de Prisma Lab (y la falta de respuestas) a cualquiera de estas preguntas.