Las voces generadas por IA pueden ser buenas o malas; como dijo el actor de voz de Witcher, Doug Cockle, en realidad todo se reduce a la intención del usuario. Cómo abordar eficazmente el potencial de uso indebido es una gran pregunta, pero la Comisión Federal de Comunicaciones de EE. UU. ha tomado medidas para acabar con al menos una vía de uso indebido al prohibir las voces generadas por IA en las llamadas automáticas.
Las llamadas automáticas son llamadas telefónicas automatizadas que reproducen un mensaje pregrabado y se utilizan comúnmente para telemercadeo o campañas políticas. Son un agravante en el mejor de los casos, pero el auge de la IA los hace especialmente peligrosos porque en lugar de una voz aleatoria, una persona podría escuchar a Clint Eastwood, Gregory Peck o al presidente estadounidense Joe Biden. En realidad, esto último ocurrió en enero, cuando se envió una llamada automática con voz falsa de Biden a más de 20.000 personas, instando a los demócratas a no votar.
Estafar a las personas por teléfono es obviamente ilegal, pero la nueva regla de la FCC hace que el acto de usar IA para generar las voces utilizadas en las llamadas automáticas sea ilegal. La agencia dijo que la nueva regulación amplía «las vías legales a través de las cuales las agencias estatales encargadas de hacer cumplir la ley pueden responsabilizar a estos perpetradores según la ley».
«Los malos actores están utilizando voces generadas por IA en llamadas automáticas no solicitadas para extorsionar a familiares vulnerables, imitar a celebridades y desinformar a los votantes. Estamos avisando a los estafadores detrás de estas llamadas automáticas», dijo la presidenta de la FCC, Jessica Rosenworcel, en el anuncio de la nueva norma. . «Los Fiscales Generales del Estado ahora tendrán nuevas herramientas para combatir estas estafas y garantizar que el público esté protegido contra el fraude y la desinformación».
El fallo declarativo se tomó bajo la Ley de Protección al Consumidor Telefónico, que permite multas de $500 a $1,500 por infracción, es decir, por llamada. Como se puede imaginar, eso puede acumularse rápidamente: en agosto de 2023, la FCC impuso una multa de 300 millones de dólares a los autores de una estafa de llamadas automáticas con garantía de automóviles que realizó más de cinco mil millones de llamadas automáticas a más de 500 millones de números de teléfono. en un lapso de tres meses.
Siempre desconfío un poco de «más regulación» porque, al igual que la IA, puede generar malos resultados si se usa incorrectamente. En este caso creo que está definitivamente justificado, pero aún está por ver hasta qué punto será un elemento disuasorio la nueva regulación. La Comisión Federal de Comercio de Estados Unidos y el estado de Texas ya habían prohibido de por vida a dos de los «jugadores centrales» en la estafa de llamadas automáticas de garantía de automóviles realizar llamadas de telemercadeo.