La startup Yepic AI, con sede en el Reino Unido, afirma utilizar «deepfakes para siempre» y promete «nunca recrear a alguien sin su consentimiento». Pero la empresa hizo exactamente lo que afirmó que nunca haría.
En un correo electrónico no solicitado a un reportero de TechCrunch, un representante de Yepic AI compartió dos videos «deepfaked» del reportero, que no había dado su consentimiento para que se reprodujera su imagen. Yepic AI dijo en el correo electrónico de presentación que “utilizó una foto disponible públicamente” del reportero para producir dos videos falsificados de ellos hablando en diferentes idiomas.
El reportero solicitó que Yepic AI eliminara los videos deepfaked que creó sin permiso.
Los deepfakes son fotografías, vídeos o audio creados por sistemas generativos de inteligencia artificial que están diseñados para verse o sonar como un individuo. Si bien no es nueva, la proliferación de sistemas de inteligencia artificial generativa permite a casi cualquier persona crear contenido deepfake convincente de otra persona con relativa facilidad, incluso sin su conocimiento o consentimiento.
En una página web que titula “Ética”, Yepic AI dijo: “Deepfakes y personificaciones satíricas con fines políticos y de otro tipo. [sic] son prohibidos.» La compañía también dijo en una publicación de blog en agosto: «Nos negamos a producir avatares personalizados de personas sin su permiso expreso».
No se sabe si la compañía generó deepfakes de alguien más sin permiso, y la compañía se negó a decirlo.
Cuando se le contactó para hacer comentarios, el director ejecutivo de Yepic AI, Aaron Jones, dijo a TechCrunch que la compañía está actualizando su política de ética para «adaptarse a excepciones para imágenes generadas por IA que se crean con fines artísticos y expresivos».
Al explicar cómo ocurrió el incidente, Jones dijo: “Ni yo ni el equipo de Yepic estuvimos directamente involucrados en la creación de los videos en cuestión. Nuestro equipo de relaciones públicas ha confirmado que el vídeo fue creado específicamente para que el periodista genere conciencia sobre la increíble tecnología que Yepic ha creado”.
Jones dijo que los videos y la imagen utilizados para la creación de la imagen del reportero fueron eliminados.
Como era de esperar, los deepfakes han engañado a víctimas desprevenidas para que caigan en estafas y, sin saberlo, revelen sus criptomonedas o información personal evadiendo algunos sistemas de moderación. En un caso, los estafadores utilizaron la IA para falsificar la voz del director ejecutivo de una empresa con el fin de engañar al personal para que realizara una transacción fraudulenta por valor de cientos de miles de euros. Antes de que los deepfakes se volvieran populares entre los estafadores, es importante tener en cuenta que las personas usaban deepfakes para crear pornografía no consensuada o imágenes sexuales que victimizaran a las mujeres, lo que significa que creaban videos porno de apariencia realista utilizando imágenes de mujeres que no habían dado su consentimiento para ser parte del video.