Deepfakes es uno de los desarrollos más preocupantes cuando se trata de IA. Suelen ser videos desgarradoramente realistas de personas que dicen y hacen cosas que nunca han hecho. En términos generales, se crean superponiendo una cara, generalmente la de una celebridad, sobre la de otra persona para hacer estos videos engañosos.
A menudo tienen la intención de ser divertidos, o al menos no se hacen con una intención seria. Algunos buscan crear películas con actores famosos. (se abre en una pestaña nueva) sin tener que salir nunca de casa. Pero como puedes imaginar, hay una tonelada de pornografía usando deepfakes. (se abre en una pestaña nueva)que van desde fantasías realizadas con personajes de videojuegos hasta imágenes problemáticas de personas reales.
Aparte de la flagrante falta de respeto que esto a menudo puede mostrar a las imágenes de las personas utilizadas, una de las cosas más peligrosas de las falsificaciones profundas es que son realmente buenas. He visto deepfakes que nunca hubiera imaginado que no eran reales, y eso es especialmente peligroso cuando tenemos un Internet que puede propagar información errónea como un reguero de pólvora.
“Los videos deepfake están en todas partes ahora. Probablemente ya los hayas visto; videos de celebridades haciendo o diciendo cosas que en realidad nunca hicieron”. explica Ilke Demir, investigadora científica sénior en Intel Labs.
Resulta que se necesita una IA para atrapar una IA y, afortunadamente, Intel ha estado trabajando en eso. La compañía ha estado trabajando en esfuerzos como parte de su trabajo de IA responsable y ha desarrollado lo que Intel ha denominado FakeCatcher. Esta es una tecnología diseñada específicamente para detectar videos falsos como deepfakes y, según se informa, puede hacerlo en milisegundos con una tasa de precisión del 96 %.
Intel explica que muchas otras herramientas que intentan detectar falsificaciones profundas intentan analizar los datos sin procesar en los archivos, mientras que FakeCatcher ha sido entrenado con técnicas de aprendizaje profundo para detectar cómo se ve un ser humano real en los videos. Esto significa que ha sido entrenado para buscar todas las pequeñas cosas que hacen que las personas sean reales. Cosas sutiles como notar el flujo de sangre en los píxeles de un video, que aparentemente los deepfakes aún no dominan. Aunque tal vez así sea como aprendan a dominar los efectos de nuestra sangre humana. Esa es una oración espeluznante si alguna vez he escrito una.
FakeCatcher está configurado para funcionar en una plataforma basada en la web que, con suerte, permitirá que cualquier persona tenga acceso a la tecnología. En el back-end, utiliza los procesadores escalables Xeon de tercera generación de Intel combinados con un montón de software patentado para realizar los cálculos necesarios.
Si desea obtener más información sobre FakeCatcher de Intel, consulte el video en la parte superior del artículo. Demir también organizará un evento de Twitter Spaces a las 11:30 a. m. PST el 16 de noviembre, donde profundizará en la tecnología utilizada. Eso es si el nuevo propietario de Twitter, Elon Musk, no despide a la gente. (se abre en una pestaña nueva) que hacen que Twitter Spaces funcione antes de esa fecha.