Estamos en las primeras etapas de ver cómo las tecnologías de IA van a cambiar elementos del mundo, tanto en línea como en el espacio físico, y hasta ahora el veredicto es decididamente mixto. La gran tecnología está apostando a que revolucionará cosas como la búsqueda antes de filtrarse en todos los aspectos de cómo nos comunicamos e interactuamos con el mundo. Pero esta es una tecnología poderosa y de vanguardia, lo que significa una cosa: los malos actores intentarán explotar estas cosas de cualquier manera que puedan.
Los videos falsos ahora han estado circulando en línea por un tiempo; son clips generados por IA en los que la imagen de una persona se superpone al metraje existente de modo que parece indistinguible de ver a la persona real. Estos clips suelen ir acompañados de pronósticos nefastos sobre cómo se utilizarán en el futuro y ahora, gracias a TikTok, puedes ver uno de los primeros ejemplos ampliamente difundidos.
La plataforma ofrece a los usuarios un anuncio fraudulento que presenta una versión generada por IA del presentador de podcasts enormemente popular Joe Rogan. Rogan es una figura controvertida por varias razones, pero este anuncio no tiene absolutamente nada que ver con el verdadero Joe Rogan, sino que presenta a un Rogan con IA que analiza las píldoras para el pene en un video que alterna tomas de ‘Rogan’ hablando y una demostración de cómo comprar dichas pastillas.
El clip fue sacado a la luz por Coffeezilla, un investigador extraordinario de los rincones más turbios de Internet; más recientemente, ha estado avergonzando a Logan Paul por el desastroso proyecto CryptoZoo del influencer. (se abre en una pestaña nueva).
Las estafas deepfake están aquí y no estamos listos. pic.twitter.com/NtPKWGCULi12 de febrero de 2023
Independientemente de lo que pueda pensar de Joe Rogan, él es la víctima aquí, y animo a todos a ver este video solo para ver cuán convincente es la estafa. El video muestra al falso Rogan ensalzando las virtudes de un producto llamado ‘Alpha Grind’, hablando sobre su estatus de bestseller en Amazon y hablando de una manera coloquial que, para mis oídos aficionados, imita la entrega y el estilo del presentador: «Si vaya a Amazon y escriba Libido Booster for Men, lo encontrará justo en la parte superior. Porque los muchachos se están dando cuenta de que literalmente está aumentando de tamaño y marcando la diferencia allí abajo».
Me puse en contacto con el verdadero Joe Rogan para hacer comentarios y lo actualizaré con cualquier respuesta.
No culparías a nadie por pensar que esto es real, y las implicaciones de eso son bastante horrendas. También es notable que aquí se está desplegando la tecnología más avanzada para vender píldoras para el pene de hombres deprimidos: plus ça change.