{"id":181998,"date":"2022-09-21T07:12:26","date_gmt":"2022-09-21T07:12:26","guid":{"rendered":"https:\/\/magazineoffice.com\/deepfake-audio-tiene-un-indicador-y-los-investigadores-pueden-detectarlo\/"},"modified":"2022-09-21T07:12:28","modified_gmt":"2022-09-21T07:12:28","slug":"deepfake-audio-tiene-un-indicador-y-los-investigadores-pueden-detectarlo","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/deepfake-audio-tiene-un-indicador-y-los-investigadores-pueden-detectarlo\/","title":{"rendered":"Deepfake audio tiene un indicador y los investigadores pueden detectarlo"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div itemprop=\"articleBody\">\n<figure class=\"intro-image intro-left\"><figcaption class=\"caption\"\/>  <\/figure>\n<aside id=\"social-left\" class=\"social-left\" aria-label=\"Read the comments or share this article\">\n<\/aside>\n<p><!-- cache hit 108:single\/related:bd5d192448a571c2a68fb9d3a5bb73d3 --><!-- empty --><\/p>\n<p>Imagina el siguiente escenario.  Suena un tel\u00e9fono.  Un oficinista responde y escucha a su jefe, presa del p\u00e1nico, decirle que olvid\u00f3 transferir dinero al nuevo contratista antes de irse y necesita que \u00e9l lo haga.  Ella le da la informaci\u00f3n de la transferencia bancaria y, con el dinero transferido, se ha evitado la crisis.<\/p>\n<p>El trabajador se recuesta en su silla, respira hondo y observa c\u00f3mo su jefe entra por la puerta.  La voz al otro lado de la llamada no era su jefe.  De hecho, ni siquiera era un humano.  La voz que escuch\u00f3 fue la de un audio falso, una muestra de audio generada por una m\u00e1quina dise\u00f1ada para sonar exactamente como su jefe.<\/p>\n<p>Ya se han producido ataques como este que utilizan audio grabado, y es posible que las falsificaciones profundas de audio conversacional no est\u00e9n muy lejos.<\/p>\n<p>Deepfakes, tanto de audio como de video, solo han sido posibles con el desarrollo de tecnolog\u00edas sofisticadas de aprendizaje autom\u00e1tico en los \u00faltimos a\u00f1os.  Deepfakes ha tra\u00eddo consigo un nuevo nivel de incertidumbre en torno a los medios digitales.  Para detectar falsificaciones profundas, muchos investigadores han recurrido al an\u00e1lisis de artefactos visuales (fallas m\u00ednimas e inconsistencias) que se encuentran en las falsificaciones profundas de video.<\/p>\n<figure class=\"video\">\n<p><iframe loading=\"lazy\" title=\"This is not Morgan Freeman  -  A Deepfake Singularity\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/oxXpB9pSETo?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p><figcaption class=\"caption\">\n<p>Este no es Morgan Freeman, pero si no te lo dijeran, \u00bfc\u00f3mo lo sabr\u00edas?<\/p>\n<\/figcaption><\/figure>\n<p>Las falsificaciones profundas de audio potencialmente representan una amenaza a\u00fan mayor, porque las personas a menudo se comunican verbalmente sin video, por ejemplo, a trav\u00e9s de llamadas telef\u00f3nicas, radio y grabaciones de voz.  Estas comunicaciones de solo voz ampl\u00edan en gran medida las posibilidades de que los atacantes utilicen deepfakes.<\/p>\n<aside class=\"ad_wrapper\" aria-label=\"In Content advertisement\">\n    <span class=\"ad_notice\">Anuncio publicitario <\/span>    <\/p>\n<\/aside>\n<p>Para detectar falsificaciones profundas de audio, nosotros y nuestros colegas investigadores de la Universidad de Florida hemos desarrollado una t\u00e9cnica que mide las diferencias ac\u00fasticas y din\u00e1micas de fluidos entre las muestras de voz creadas org\u00e1nicamente por hablantes humanos y las generadas sint\u00e9ticamente por computadoras.<\/p>\n<h2>Voces org\u00e1nicas vs sint\u00e9ticas<\/h2>\n<p>Los seres humanos vocalizan forzando el aire sobre las diversas estructuras del tracto vocal, incluidas las cuerdas vocales, la lengua y los labios.  Al reorganizar estas estructuras, altera las propiedades ac\u00fasticas de su tracto vocal, lo que le permite crear m\u00e1s de 200 sonidos o fonemas distintos.  Sin embargo, la anatom\u00eda humana limita fundamentalmente el comportamiento ac\u00fastico de estos diferentes fonemas, lo que da como resultado una gama relativamente peque\u00f1a de sonidos correctos para cada uno.<\/p>\n<figure class=\"video\">\n<p><iframe loading=\"lazy\" title=\"An Introduction to the Vocal Organs \u2013 with MRI video\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/SVKR3ESdAk8?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p><figcaption class=\"caption\">\n<p>C\u00f3mo funcionan tus \u00f3rganos vocales.<\/p>\n<\/figcaption><\/figure>\n<p>Por el contrario, los deepfakes de audio se crean al permitir que una computadora escuche las grabaciones de audio de un hablante de la v\u00edctima objetivo.  Dependiendo de las t\u00e9cnicas exactas que se utilicen, es posible que la computadora necesite escuchar tan solo de 10 a 20 segundos de audio.  Este audio se utiliza para extraer informaci\u00f3n clave sobre los aspectos \u00fanicos de la voz de la v\u00edctima.<\/p>\n<p>El atacante selecciona una frase para que hable el deepfake y luego, utilizando un algoritmo modificado de texto a voz, genera una muestra de audio que suena como si la v\u00edctima dijera la frase seleccionada.  Este proceso de creaci\u00f3n de una sola muestra de audio falsificada se puede lograr en cuesti\u00f3n de segundos, lo que potencialmente permite a los atacantes suficiente flexibilidad para usar la voz falsa en una conversaci\u00f3n.<\/p>\n<h2>Detecci\u00f3n de falsificaciones profundas de audio<\/h2>\n<p>El primer paso para diferenciar el habla producida por humanos del habla generada por deepfakes es comprender c\u00f3mo modelar ac\u00fasticamente el tracto vocal.  Afortunadamente, los cient\u00edficos tienen t\u00e9cnicas para estimar c\u00f3mo sonar\u00eda alguien, o alg\u00fan ser como un dinosaurio, seg\u00fan las mediciones anat\u00f3micas de su tracto vocal.<\/p>\n<aside class=\"ad_wrapper\" aria-label=\"In Content advertisement\">\n    <span class=\"ad_notice\">Anuncio publicitario <\/span>    <\/p>\n<\/aside>\n<p>Hicimos al rev\u00e9s.  Al invertir muchas de estas mismas t\u00e9cnicas, pudimos extraer una aproximaci\u00f3n del tracto vocal de un hablante durante un segmento del habla.  Esto nos permiti\u00f3 observar de manera efectiva la anatom\u00eda del hablante que cre\u00f3 la muestra de audio.<\/p>\n<figure class=\"image shortcode-img center large\" style=\"width:100%\"><img loading=\"lazy\" decoding=\"async\" alt=\"El audio falso a menudo da como resultado reconstrucciones del tracto vocal que se asemejan a pajitas para beber en lugar de tractos vocales biol\u00f3gicos.\" src=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2022\/09\/deepfake-diagram-640x365.png\" width=\"640\" height=\"365\" srcset=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2022\/09\/deepfake-diagram-1280x730.png 2x\"\/><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> El audio falso a menudo da como resultado reconstrucciones del tracto vocal que se asemejan a pajitas para beber en lugar de tractos vocales biol\u00f3gicos.<\/div>\n<\/figcaption><\/figure>\n<p>A partir de aqu\u00ed, planteamos la hip\u00f3tesis de que las muestras de audio deepfake no estar\u00edan limitadas por las mismas limitaciones anat\u00f3micas que tienen los humanos.  En otras palabras, el an\u00e1lisis de muestras de audio falsificadas simulaba formas del tracto vocal que no existen en las personas.<\/p>\n<p>Los resultados de nuestras pruebas no solo confirmaron nuestra hip\u00f3tesis, sino que revelaron algo interesante.  Al extraer estimaciones del tracto vocal de un audio falso, descubrimos que las estimaciones a menudo eran c\u00f3micamente incorrectas.  Por ejemplo, era com\u00fan que el audio deepfake diera como resultado tractos vocales con el mismo di\u00e1metro relativo y la misma consistencia que una pajilla para beber, en contraste con los tractos vocales humanos, que son mucho m\u00e1s anchos y de forma m\u00e1s variable.<\/p>\n<p>Esta realizaci\u00f3n demuestra que el audio deepfake, incluso cuando convence a los oyentes humanos, est\u00e1 lejos de ser indistinguible del habla generada por humanos.  Al estimar la anatom\u00eda responsable de crear el discurso observado, es posible identificar si el audio fue generado por una persona o una computadora.<\/p>\n<h2>por qu\u00e9 esto importa<\/h2>\n<p>El mundo de hoy est\u00e1 definido por el intercambio digital de medios e informaci\u00f3n.  Todo, desde noticias hasta entretenimiento y conversaciones con seres queridos, generalmente ocurre a trav\u00e9s de intercambios digitales.  Incluso en su infancia, los videos y audios falsos socavan la confianza que las personas tienen en estos intercambios, limitando efectivamente su utilidad.<\/p>\n<p>Si el mundo digital va a seguir siendo un recurso cr\u00edtico para la informaci\u00f3n en la vida de las personas, las t\u00e9cnicas efectivas y seguras para determinar la fuente de una muestra de audio son cruciales.<br \/>Logan Blue es estudiante de doctorado en inform\u00e1tica y ciencias de la informaci\u00f3n e ingenier\u00eda en la Universidad de Florida, y Patrick Traynor es profesor de inform\u00e1tica y ciencias de la informaci\u00f3n e ingenier\u00eda en la Universidad de Florida.<em>.<\/em><\/p>\n<p>Este art\u00edculo se vuelve a publicar de The Conversation bajo una licencia Creative Commons.  Lea el art\u00edculo original.<\/p>\n<p><figure class=\"center\" style=\"width:1px\"><iframe loading=\"lazy\" src=\"https:\/\/counter.theconversation.com\/content\/189104\/count.gif?distributor=republish-lightbox-basic\" scrolling=\"no\" width=\"1\" height=\"1\" frameborder=\"0\"><\/iframe><\/figure>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Imagina el siguiente escenario. Suena un tel\u00e9fono. Un oficinista responde y escucha a su jefe, presa del p\u00e1nico, decirle que olvid\u00f3 transferir dinero al nuevo contratista antes de irse y&hellip;<\/p>\n","protected":false},"author":1,"featured_media":182001,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[5394,19844,48443,12467,6514,8,2964,227],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/181998"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=181998"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/181998\/revisions"}],"predecessor-version":[{"id":182002,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/181998\/revisions\/182002"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/182001"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=181998"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=181998"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=181998"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}