Civitai, un mercado en línea para compartir modelos de IA, acaba de presentar una nueva función llamada «recompensas» para alentar a su comunidad a desarrollar deepfakes aceptables de personas reales. Quien inventa el mejor modelo de IA obtiene una moneda virtual llamada «Buzz» que los usuarios pueden comprar con dinero real.
Muchas de las recompensas publicadas en el sitio piden a los usuarios que recreen la imagen de celebridades y personas influyentes en las redes sociales, la mayoría de ellas mujeres. El informe también señala la mayor parte de estos resultados como “imágenes sexuales no consensuadas”. Este es el tipo de cosas que han estado proliferando en Internet durante años y años, pero la inteligencia artificial permite un resultado final más realista. Además, 404 Medios Encontré algunas solicitudes de personas privadas sin una presencia significativa en línea, lo que hace que esto sea aún más espeluznante.
«Tengo mucho miedo de lo que puede llegar a ser esto», dijo Michele Alves, una influencer de Instagram que tiene una recompensa por Civitai. 404 Medios. “No sé qué medidas podría tomar, ya que Internet parece un lugar fuera de control”.
Según la firma del mercado, Civitai es la séptima plataforma de IA generativa más popular en este momento. En otras palabras, hay muchos ojos puestos en estas solicitudes de recompensas. Sólo hizo falta personal de 404 Medios momentos para obtener imágenes enviadas a través de una solicitud de recompensa a una persona privada con cuentas personales en las redes sociales que cuentan con solo unos pocos seguidores. La persona que publicó la recompensa afirmó que era su esposa, pero sus cuentas de redes sociales decían lo contrario. Bruto.
Un usuario de Civitai rechazó la recompensa alegando que estaba «pidiendo problemas legales en el futuro». Con ese fin, Virginia acaba de castigar a los creadores deekfake con hasta un año de cárcel. Aún así, esta solicitud en particular se cumplió y se cargaron varias imágenes en el sitio, aunque no eran de naturaleza sexual.
Vale la pena señalar que muy pocas de las solicitudes de recompensa indican específicamente que el anunciante busca material sexual, expresando la solicitud en un lenguaje vago. Algunos, sin embargo, van con todo y utilizan términos como “solicitud degenerada” junto con comentarios sobre el tamaño de los senos femeninos. Civitai, por su parte, dice que estas recompensas no deben usarse para crear imágenes sexuales no consensuadas de personas reales generadas por IA.
Sin embargo, se permiten tanto imágenes sexuales de figuras públicas como imágenes no sexuales de personas normales. Después de eso, sólo es cuestión de combinar los dos. 404 Medios utilizó la herramienta de conversión de texto a imagen de la empresa para crear imágenes sexuales no consensuadas de una persona real «en segundos».