A medida que el papel de la inteligencia artificial parece continuar creciendo en nuestra vida diaria, se lleva consigo la semejanza de las personas. Esta semana, cientos de videos falsos con rostros que se parecían exactamente a los de Emma Watson y Scarlett Johansson aparecieron en Facebook e Instagram como parte de una aparente campaña publicitaria para un Aplicación de falsificación profunda de IA llamado FaceMega.
noticias de la nbc reveló la historia e informó que se ejecutaron 230 videos en Facebook e Instagram. 127 de los videos publicitarios presentaban a Watson, mientras que 74 videos presentaban a Johansson, todos los cuales mostraban a las actrices en situaciones provocativas y tenían temas sexualmente sugerentes.
Aparentemente, la campaña era un anuncio de FaceMega, y por $ 8 a la semana, los usuarios pueden intercambiar las caras de alguien en un video con fotos cargadas en la aplicación. FaceMega parece haber sido retirado o eliminado de la tienda de aplicaciones de Apple, pero aún está disponible Tienda de juegos de Google.
“Esto podría usarse con estudiantes de secundaria en escuelas públicas que son intimidados”, dijo a NBC News Lauren Barton, quien subió una grabación de pantalla de uno de los videos a Twitter. “Podría arruinar la vida de alguien. Podrían meterse en problemas en su trabajo. Y esto es extremadamente fácil de hacer y gratis. Todo lo que tenía que hacer era subir una foto de mi cara y tenía acceso a 50 plantillas gratuitas”.
G/O Media puede recibir una comisión
Los anuncios parecen ir en contra de la propia aplicación. Términos y condicionesque dice que los usuarios no pueden «actuar de manera engañosa o hacerse pasar por otra persona u organización».
NBC News dice que la campaña proviene del desarrollador de aplicaciones Ufoto Limited, propiedad de Wondershare, su empresa matriz china.
En enero de 2020 presione soltar, Meta afirmó que estaba reforzando su control sobre el contenido manipulado: la empresa se refirió específicamente a la creciente popularidad de las falsificaciones profundas. Meta dijo que eliminaría los videos y las fotos manipulados que se editan de manera que engañen intencionalmente a la persona promedio, o en los casos en que una IA superponga contenido en un video.
“Nuestras políticas prohíben el contenido para adultos, independientemente de si es generado por IA o no, y hemos restringido esta página para que no publique publicidad en nuestra plataforma”, dijo Meta a Gizmodo en un correo electrónico.