Dos días antes de las primarias de New Hampshire en enero, se envió una llamada automática con una imitación de la voz del presidente Biden generada por inteligencia artificial a miles de personas en el estado instándolas a no votar. La llamada también fue falsificada para que pareciera que provenía del teléfono de un ex funcionario estatal del Partido Demócrata. Un análisis independiente confirmó más tarde que la voz falsa de Biden se había creado con el generador de voz de texto a voz con IA de ElevenLabs.
La oficina del fiscal general de New Hampshire inició una investigación sobre la llamada automática y posteriormente determinó que había sido enviada a hasta 25.000 números de teléfono por una empresa con sede en Texas llamada Life Corporation, que vende llamadas automáticas y otros servicios a organizaciones políticas, y que fue transmitida por una empresa llamada Lingo Telecom.
El 23 de febrero, NBC News informó que un mago de Nueva Orleans llamado Paul Carpenter había admitido haber utilizado ElevenLabs para crear el audio falso de Biden. Carpenter dijo que lo hizo después de recibir un pago de Steve Kramer, un veterano agente político que entonces trabajaba para el candidato presidencial demócrata (y defensor de AI) Dean Phillips. La campaña ha negado tener conocimiento alguno del esfuerzo.
«Me encontraba en una situación en la que alguien me ofreció algo de dinero para hacer algo y lo hice», dijo Carpenter. “No hubo ninguna intención maliciosa. No sabía cómo se iba a distribuir”. Le dijo a NBC que estaba admitiendo su papel en parte para llamar la atención sobre lo fácil que fue crear el audio:
Carpenter, que ostenta récords mundiales en flexión de horquillas y fugas en camisa de fuerza, pero no tiene dirección fija, mostró a NBC News cómo creó el audio falso de Biden y dijo que se presentó porque lamenta su participación en la terrible experiencia y quiere advertir a la gente sobre cómo Fácil es utilizar la IA para engañar. Crear el audio falso tomó menos de 20 minutos y costó solo $1, dijo, por lo que le pagaron $150, según los pagos de Venmo de Kramer y su padre, Bruce Kramer, que compartió.
«Da tanto miedo que sea tan fácil de hacer», dijo Carpenter. «La gente no está preparada para ello».
Kramer, quien también trabajó anteriormente en la fallida campaña presidencial de Kanye West en 2020, recibió casi 260.000 dólares de la campaña de Phillips durante diciembre y enero por trabajos de acceso a las boletas en Pensilvania y Nueva York. Un portavoz de la campaña de Phillips le dijo a NBC News que no participó en la llamada automática de IA:
«Si es cierto que el Sr. Kramer estuvo involucrado en la creación de llamadas automáticas falsas, lo hizo por su propia voluntad, lo que no tuvo nada que ver con nuestra campaña», dijo la secretaria de prensa de Phillips, Katie Dolan. “La noción fundamental de nuestra campaña es la importancia de la competencia, la elección y la democracia. Nos disgusta saber que el Sr. Kramer está supuestamente detrás de esta llamada y, si las acusaciones son ciertas, denunciamos absolutamente sus acciones”.
En una declaración a NBC News, Kramer finalmente admitió que estaba detrás de la llamada automática, que dijo que envió a 5.000 posibles votantes demócratas. Afirmó que lo hizo para evitar futuras llamadas automáticas falsificadas por IA:
“Con una inversión de apenas 500 dólares, cualquiera podría replicar mi decisión intencional”, dijo Kramer. «Se necesita una acción inmediata en todos los organismos y plataformas reguladores».