\n<\/p>\n
ElevenLabs, una startup de inteligencia artificial que ofrece servicios de clonaci\u00f3n de voz con sus herramientas, ha prohibido al usuario que cre\u00f3 un audio deepfake de Joe Biden utilizado en un intento de perturbar las elecciones, seg\u00fan Bloomberg<\/em>. El audio que se hace pasar por el presidente se utiliz\u00f3 en una llamada autom\u00e1tica que se envi\u00f3 a algunos votantes en New Hampshire la semana pasada, dici\u00e9ndoles que no votaran en las primarias de su estado. Inicialmente no estaba claro qu\u00e9 tecnolog\u00eda se utiliz\u00f3 para copiar la voz de Biden, pero un an\u00e1lisis exhaustivo realizado por la empresa de seguridad Pindrop mostr\u00f3 que los perpetradores utilizaron las herramientas de ElevanLabs.<\/p>\n La empresa de seguridad elimin\u00f3 el ruido de fondo y limpi\u00f3 el audio de la llamada autom\u00e1tica antes de compararlo con muestras de m\u00e1s de 120 tecnolog\u00edas de s\u00edntesis de voz utilizadas para generar deepfakes. Dijo el director ejecutivo de Pindrop, Vijay Balasubramaniyan cableado<\/em> que \u00abregres\u00f3 muy por encima del 99 por ciento de que era ElevenLabs\u00bb. Bloomberg<\/em> dice que la compa\u00f1\u00eda fue notificada de los hallazgos de Pindrop y a\u00fan est\u00e1 investigando, pero ya identific\u00f3 y suspendi\u00f3 la cuenta que hizo el audio falso. ElevenLabs le dijo a la organizaci\u00f3n de noticias que no puede comentar sobre el tema en s\u00ed, pero que est\u00e1 \u00abdedicado a prevenir el uso indebido de herramientas de inteligencia artificial de audio y [that it takes] cualquier incidente de mal uso es extremadamente grave\u00bb.<\/p>\n La llamada autom\u00e1tica de Biden, falsificada, muestra c\u00f3mo las tecnolog\u00edas que pueden imitar la imagen y la voz de otra persona podr\u00edan usarse para manipular los votos en las pr\u00f3ximas elecciones presidenciales en Estados Unidos. \u00abEsto es s\u00f3lo la punta del iceberg de lo que se podr\u00eda hacer con respecto a la supresi\u00f3n de votantes o los ataques a los trabajadores electorales\u00bb, dijo Kathleen Carley, profesora de la Universidad Carnegie Mellon. La colina<\/em>. \u00abFue casi un presagio de todo tipo de cosas que deber\u00edamos esperar en los pr\u00f3ximos meses\u00bb.<\/p>\n Solo le tom\u00f3 a Internet unos d\u00edas despu\u00e9s de que ElevenLabs lanzara la versi\u00f3n beta de su plataforma para comenzar a usarla para crear clips de audio que suenan como celebridades leyendo o diciendo algo cuestionable. La startup permite a los clientes utilizar su tecnolog\u00eda para clonar voces para \u00abdiscursos art\u00edsticos y pol\u00edticos que contribuyan a los debates p\u00fablicos\u00bb. Su p\u00e1gina de seguridad advierte a los usuarios que \u00abno pueden clonar una voz con fines abusivos como fraude, discriminaci\u00f3n, incitaci\u00f3n al odio o cualquier forma de abuso en l\u00ednea sin infringir la ley\u00bb. Pero est\u00e1 claro que necesita implementar m\u00e1s salvaguardias para evitar que los malos actores utilicen sus herramientas para influir en los votantes y manipular las elecciones en todo el mundo.<\/p>\n Este art\u00edculo contiene enlaces de afiliados; Si hace clic en dicho enlace y realiza una compra, podemos ganar una comisi\u00f3n.<\/p>\n<\/div>\n