Un exdirector deportivo de una escuela secundaria de Baltimore ha sido arrestado y acusado de utilizando un servicio de clonación de voz de IA para incriminar al director de la escuela.
La bandera de Baltimore informes que la policía de Baltimore cree que una supuesta grabación del director de la escuela secundaria de Pikesville, Eric Eiswert, haciendo comentarios racistas y antisemitas era falsa. Los expertos dijeron La bandera de Baltimore y a la policía de Baltimore que la grabación, que circuló a través de las redes sociales en enero y resultó brevemente en la suspensión de Eiswert, tiene un «tono plano, sonidos de fondo inusualmente limpios y falta de pausas o sonidos respiratorios consistentes».
La policía de Baltimore rastreó la grabación hasta Dazhon Darien, un exdirector deportivo de la escuela cuyo nombre también se menciona en el clip de audio. Supuestamente accedió a las computadoras de la escuela para buscar «herramientas OpenAI». No está claro qué plataforma de voz de IA supuestamente utilizó Darien.
En este ambiente tenso, OpenAI decidió en marzo retener su plataforma de generación de texto a voz con IA, Voice Engine, de uso público. El servicio, que sólo requiere un clip de audio de 15 minutos para clonar la voz de alguien, sólo está disponible para un número limitado de investigadores debido a la falta de barreras de seguridad en torno a la tecnología.
Los legisladores estadounidenses han presentado, pero aún no han aprobado, varios proyectos de ley como la ley contra las falsificaciones y la Ley contra el fraude de IA que buscan evitar que las empresas de tecnología utilicen el rostro, la voz o el nombre de una persona sin su permiso.