Imágenes falsas | Thamrongpat Theerathammakorn
La Comisión Federal de Comunicaciones planea votar para ilegalizar el uso de voces generadas por IA en llamadas automáticas. La FCC dijo que las voces generadas por IA en llamadas automáticas han «intensificado durante los últimos años» y tienen «el potencial de confundir a los consumidores con información errónea al imitar las voces de celebridades, candidatos políticos y familiares cercanos».
La decisión declaratoria propuesta por la presidenta de la FCC, Jessica Rosenworcel, dictaminaría que «las llamadas realizadas con voces generadas por IA son voces ‘artificiales’ según la Ley de Protección al Consumidor Telefónico (TCPA), lo que haría ilegal la tecnología de clonación de voz utilizada en estafas comunes de llamadas automáticas dirigidas a consumidores», anunció ayer la comisión. Según se informa, los comisionados votarán sobre la propuesta en las próximas semanas.
Una reciente llamada automática contra la votación utilizó una versión generada artificialmente de la voz del presidente Joe Biden. Las llamadas decían a los demócratas que no votaran en las elecciones primarias presidenciales de New Hampshire.
Un análisis de la empresa Pindrop concluyó que la voz artificial de Biden fue creada utilizando un motor de conversión de texto a voz ofrecido por ElevenLabs. Esa conclusión aparentemente fue confirmada por ElevenLabs, que supuestamente suspendió la cuenta del usuario que creó el deepfake.
El fallo de la FCC podría ayudar a los estados a tomar medidas enérgicas
La TCPA, una ley estadounidense de 1991, prohíbe el uso de voces artificiales o pregrabadas en la mayoría de las llamadas que no son de emergencia «sin el previo consentimiento expreso de la persona llamada». La FCC es responsable de redactar las normas para implementar la ley, lo que se castiga con multas.
Como señaló ayer la FCC, la TCPA «restringe la realización de llamadas de telemercadeo y el uso de sistemas de marcación telefónica automática y mensajes de voz artificiales o pregrabados». Los vendedores telefónicos deben «obtener el consentimiento previo y expreso por escrito de los consumidores antes de realizar llamadas automáticas. Si se promulga con éxito, esta resolución declaratoria garantizaría que las llamadas de voz generadas por IA también cumplan con esos mismos estándares».
La FCC ha estado pensando en revisar sus reglas para tener en cuenta la inteligencia artificial durante al menos unos meses. En noviembre de 2023, lanzó una investigación sobre el impacto de la IA en las llamadas automáticas y los textos automáticos.
Rosenworcel dijo que su fallo propuesto «reconocerá esta tecnología emergente como ilegal según la ley existente, brindando a nuestros socios en las oficinas de los fiscales generales estatales en todo el país nuevas herramientas que pueden usar para combatir estas estafas y proteger a los consumidores.
«La clonación de voz e imágenes generadas por IA ya están sembrando confusión al engañar a los consumidores haciéndoles pensar que las estafas y los fraudes son legítimos», afirmó Rosenworcel. «No importa qué celebridad o político prefieras, o cuál sea tu relación con tus familiares cuando piden ayuda, es posible que todos seamos el objetivo de estas llamadas falsas».