\n<\/aside>\n<\/p>\n
Los modelos de inteligencia artificial dise\u00f1ados para simular de cerca la voz de una persona est\u00e1n facilitando que los malos actores imiten a sus seres queridos y estafen a las personas vulnerables por miles de d\u00f3lares, inform\u00f3 The Washington Post.<\/p>\n
Algunos software de generaci\u00f3n de voz de IA, que evolucionan r\u00e1pidamente en sofisticaci\u00f3n, requieren solo unas pocas oraciones de audio para producir un discurso convincente que transmita el sonido y el tono emocional de la voz de un hablante, mientras que otras opciones necesitan tan solo tres segundos. Para los objetivos, que a menudo son los ancianos, inform\u00f3 el Post, puede ser cada vez m\u00e1s dif\u00edcil detectar cuando una voz no es aut\u00e9ntica, incluso cuando las circunstancias de emergencia descritas por los estafadores parecen inveros\u00edmiles.<\/p>\n
Los avances tecnol\u00f3gicos aparentemente hacen que sea m\u00e1s f\u00e1cil aprovecharse de los peores temores de las personas y asustar a las v\u00edctimas que le dijeron al Post que sintieron un \u00abhorror visceral\u00bb al escuchar lo que parec\u00edan s\u00faplicas directas de amigos o familiares que necesitaban ayuda con urgencia. Una pareja envi\u00f3 $15,000 a trav\u00e9s de una terminal de bitcoin a un estafador despu\u00e9s de creer que hab\u00edan hablado con su hijo. La voz generada por IA les dijo que necesitaba honorarios legales despu\u00e9s de estar involucrado en un accidente automovil\u00edstico en el que muri\u00f3 un diplom\u00e1tico estadounidense.<\/p>\n
Seg\u00fan la Comisi\u00f3n Federal de Comercio, las llamadas estafas de impostores son extremadamente comunes en los Estados Unidos. Fue el tipo de fraude m\u00e1s frecuente informado en 2022 y gener\u00f3 las segundas p\u00e9rdidas m\u00e1s altas para los destinatarios. De 36,000 informes, m\u00e1s de 5,000 v\u00edctimas fueron estafadas por $11 millones por tel\u00e9fono.<\/p>\n
Debido a que estas estafas de impostores pueden ejecutarse desde cualquier parte del mundo, es extremadamente dif\u00edcil para las autoridades tomar medidas en\u00e9rgicas contra ellas y revertir la preocupante tendencia, inform\u00f3 el Post. No solo es dif\u00edcil rastrear llamadas, identificar a los estafadores y recuperar fondos, sino que a veces tambi\u00e9n es un desaf\u00edo decidir qu\u00e9 agencias tienen jurisdicci\u00f3n para investigar casos individuales cuando los estafadores operan desde diferentes pa\u00edses. Incluso cuando es obvio qu\u00e9 agencia debe investigar, algunas agencias actualmente est\u00e1n mal equipadas para manejar el creciente n\u00famero de suplantaciones.<\/p>\n
Ars no pudo comunicarse de inmediato con la FTC para hacer comentarios. Will Maxson, subdirector de la divisi\u00f3n de pr\u00e1cticas de marketing de la FTC, le dijo al Post que crear conciencia sobre las estafas que se basan en simuladores de voz de IA es probablemente la mejor defensa de los consumidores en la actualidad. Se recomienda que cualquier solicitud de dinero en efectivo se trate con escepticismo. Antes de enviar fondos, intente comunicarse con la persona que parece estar pidiendo ayuda a trav\u00e9s de m\u00e9todos que no sean una llamada de voz.<\/p>\n\n Anuncio <\/span> <\/p>\n<\/aside>\nMedidas de seguridad contra la suplantaci\u00f3n de voz de AI<\/h2>\n Las herramientas de modelado de voz de IA se han utilizado para mejorar la generaci\u00f3n de texto a voz, crear nuevas posibilidades para la edici\u00f3n de voz y expandir la magia del cine mediante la clonaci\u00f3n de voces famosas como la de Darth Vader. Pero el poder de producir f\u00e1cilmente simulaciones de voz convincentes ya ha causado esc\u00e1ndalos, y nadie sabe qui\u00e9n tiene la culpa cuando se usa mal la tecnolog\u00eda.<\/p>\n
A principios de este a\u00f1o, hubo una reacci\u00f3n violenta cuando algunos miembros de 4chan hicieron voces falsas de celebridades que hac\u00edan declaraciones racistas, ofensivas o violentas. En ese momento, qued\u00f3 claro que las empresas deb\u00edan considerar agregar m\u00e1s medidas de seguridad para evitar el uso indebido de la tecnolog\u00eda, inform\u00f3 Vice, o correr el riesgo potencial de ser consideradas responsables de causar da\u00f1os sustanciales, como arruinar la reputaci\u00f3n de personas famosas.<\/p>\n
Los tribunales a\u00fan no han decidido cu\u00e1ndo o si las empresas ser\u00e1n responsables de los da\u00f1os causados \u200b\u200bpor la tecnolog\u00eda de voz ultrafalsa, o cualquier otra tecnolog\u00eda de inteligencia artificial cada vez m\u00e1s popular, como ChatGPT, donde los riesgos de difamaci\u00f3n y desinformaci\u00f3n parecen estar aumentando.<\/p>\n
Sin embargo, puede haber una presi\u00f3n cada vez mayor sobre los tribunales y los reguladores para controlar la IA, ya que muchas empresas parecen estar lanzando productos de IA sin conocer completamente los riesgos involucrados.<\/p>\n
En este momento, algunas empresas parecen no estar dispuestas a ralentizar los lanzamientos de funciones populares de IA, incluidas las controvertidas que permiten a los usuarios emular las voces de las celebridades. M\u00e1s recientemente, Microsoft lanz\u00f3 una nueva caracter\u00edstica durante su vista previa de Bing AI que se puede usar para emular celebridades, inform\u00f3 Gizmodo. Con esta caracter\u00edstica, Microsoft parece estar tratando de esquivar cualquier esc\u00e1ndalo al limitar lo que se puede pedir que digan las voces de las celebridades impostoras.<\/p>\n
Microsoft no respondi\u00f3 a la solicitud de comentarios de Ars sobre qu\u00e9 tan bien funcionan actualmente las medidas de seguridad para evitar que el emulador de voz de celebridades genere un discurso ofensivo. Gizmodo se\u00f1al\u00f3 que, al igual que muchas empresas ansiosas por beneficiarse de la fascinaci\u00f3n generalizada con las herramientas de IA, Microsoft conf\u00eda en sus millones de usuarios para probar su \u00abIA todav\u00eda disfuncional\u00bb, que aparentemente todav\u00eda puede usarse para generar un discurso controvertido al presentarlo. como parodia. El tiempo dir\u00e1 qu\u00e9 tan efectivas son las soluciones tempranas para mitigar los riesgos.<\/p>\n
En 2021, la FTC public\u00f3 una gu\u00eda de IA, diciendo a las empresas que los productos deber\u00edan \u00abhacer m\u00e1s bien que mal\u00bb y que las empresas deber\u00edan estar preparadas para hacerse responsables de los riesgos del uso de productos. M\u00e1s recientemente, el mes pasado, la FTC les dijo a las empresas: \u201cDeben conocer los riesgos y el impacto razonablemente previsibles de su producto de IA antes de ponerlo en el mercado\u201d.<\/p>\n<\/p><\/div>\n
Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"Los modelos de inteligencia artificial dise\u00f1ados para simular de cerca la voz de una persona est\u00e1n facilitando que los malos actores imiten a sus seres queridos y estafen a las…<\/p>\n","protected":false},"author":1,"featured_media":502069,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[10704,39555,49824,2512,110,2914,2913,21925],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/502068"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=502068"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/502068\/revisions"}],"predecessor-version":[{"id":502070,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/502068\/revisions\/502070"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/502069"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=502068"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=502068"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=502068"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}