¿Alguna vez recibió un correo electrónico de alguien que dice ser su pariente perdido hace mucho tiempo, varado sin su billetera y pasaporte durante unas vacaciones, y pidiendo $ 1,000 para regresar a casa? Todos sabemos que es una estafa clásica. Pero seamos honestos, incluso los más inteligentes entre nosotros pueden caer en algo así, y la IA está haciendo que sea aún más difícil saber cuándo alguien está tratando de llevarnos a dar un paseo. La FTC (Comisión Federal de Comercio) ahora nos está avisando sobre un nuevo juego de estafa en el que los estafadores en realidad llaman a víctimas desprevenidas, fingiendo ser sus propios familiares y utilizando herramientas de IA para hacerlo más convincente.
La presidenta de la Comisión Federal de Comercio, Lina Khan (a través de Bloomberg), dijo en un evento reciente que «debemos estar atentos desde el principio» a medida que se desarrollan las herramientas de IA, porque ya hemos visto cómo estas herramientas de IA pueden «sobrecargar» el fraude.
Khan estaba hablando de delincuentes que toman fragmentos de las voces de las personas de las redes sociales y entrenan a la IA para imitarlos. Utilizan software de texto a voz impulsado por inteligencia artificial para alimentar sus líneas y hacer que suene como los familiares angustiados de sus objetivos. Es básicamente la misma técnica que esos traviesos usuarios de 4chan usaron para hacer clips de voz de celebridades generados por IA que decían todo tipo de cosas terribles. La estafa generalmente implica que el pariente pide dinero para volver a casa o afirma que está en la cárcel y necesita dinero para la fianza, cualquier cosa para obtener la información financiera de un pariente comprensivo.
A Khan le preocupa que un mayor desarrollo de la tecnología de imitación de voz pueda conducir a un aumento de estafas y otras actividades dañinas, que afecten cosas como los derechos civiles, la competencia justa, la protección del consumidor y la igualdad de oportunidades.
Según la FTC, hubo 5100 informes de estafas telefónicas solo en 2022, lo que resultó en pérdidas de alrededor de $11 millones. Pero escuche esto, eso es solo una pequeña fracción de la friolera de $ 8.8 mil millones perdidos por fraude en general, lo que representa un aumento del 30% con respecto al año anterior. Los estafadores están realmente en racha.
Bloomberg señala que EE. UU. tiene leyes contra las estafas de impostores, que ya se aplican a situaciones como esta. Sin embargo, eso no ralentiza mucho a los estafadores, y las herramientas que usan en esquemas como este son fácilmente accesibles y bastante sencillas de operar. Afortunadamente, informar fraudes e intentar recuperar fondos robados se ha vuelto un poco más fácil, aunque todavía puede ser una pesadilla.
En una declaración conjunta con el Departamento de Justicia sobre IA de abril, Khan escribe: «Los avances tecnológicos pueden ofrecer una innovación crítica, pero las afirmaciones de innovación no deben encubrir el incumplimiento de la ley». Ella continúa: «No existe una exención de AI para las leyes en los libros, y la FTC hará cumplir enérgicamente la ley para combatir las prácticas desleales o engañosas o los métodos de competencia desleales».