\n<\/p>\n
<\/span><\/p>\n
<\/figure>\n \u00bfQui\u00e9n podr\u00eda haberlo visto venir? Se han utilizado generadores de im\u00e1genes de IA para crear pornograf\u00eda no consentida<\/span> de celebridades, pero \u00bfpor qu\u00e9 ese mismo usuario base se atreve a abusar de un generador de voz falso de texto a voz de IA gratuito?<\/p>\n ElevenLabs con sede en el Reino Unido primero promocionado<\/span> su Prime Voice AI a principios de este mes, pero solo unas semanas despu\u00e9s, es posible que deba repensar todo su modelo despu\u00e9s de que los usuarios informaron que una gran cantidad de usuarios crearon mensajes de odio con voces del mundo real. La compa\u00f1\u00eda lanz\u00f3 su primer sistema beta abierto de texto a voz el 23 de enero. Los desarrolladores prometieron que las voces coincidieran con el estilo y la cadencia de un ser humano real. La funci\u00f3n \u00abLaboratorio de voz\u00bb de la empresa permite a los usuarios clonar voces a partir de peque\u00f1as muestras de audio.<\/p>\n tarjeta madre<\/span> inform\u00f3 por primera vez el lunes sobre una gran cantidad de usuarios de 4Chan que sub\u00edan voces falsas de celebridades o personalidades de Internet, desde Joe Rogan hasta Robin Williams. Seg\u00fan los informes, un usuario de 4Chan public\u00f3 un clip de Emma Watson leyendo un pasaje de Mein Kampf. Otro usuario tom\u00f3 una voz que, seg\u00fan los informes, sonaba como Rick S\u00e1nchez de Justin Roiland de rick y morty<\/em> hablando de c\u00f3mo iba a golpear a su esposa, una referencia obvia a acusaciones actuales de abuso dom\u00e9stico<\/span> contra el co-creador de la serie.<\/p>\n En un hilo de 4Chan revisado por Gizmodo, los usuarios publicaron clips de la IA expresando misoginia intensa o transfobia usando voces de personajes o narradores de varios anime o videojuegos. Todo esto es para decir que es exactamente lo que esperar\u00eda que hiciera la axila de Internet una vez que tenga en sus manos tecnolog\u00eda deepfake f\u00e1cil de usar<\/span>.<\/p>\n El lunes, la compa\u00f1\u00eda tuite\u00f3 que tuvieron un \u00abfin de semana loco\u00bb y not\u00f3 que mientras su tecnolog\u00eda \u00abse estaba aplicando abrumadoramente al uso positivo\u00bb, los desarrolladores vieron un \u00abn\u00famero creciente de casos de uso indebido de clonaci\u00f3n de voz\u00bb. pero no nombr\u00f3 una plataforma o plataformas espec\u00edficas donde el uso indebido estaba teniendo lugar. <\/p>\n G\/O Media puede recibir una comisi\u00f3n<\/p>\n<\/div>\n<\/div>\n