{"id":949083,"date":"2024-01-03T00:17:19","date_gmt":"2024-01-03T00:17:19","guid":{"rendered":"https:\/\/magazineoffice.com\/chatbots-de-ia-entrenados-para-hacer-jailbreak-a-otros-chatbots-mientras-la-guerra-de-la-ia-comienza-lenta-pero-seguramente\/"},"modified":"2024-01-03T00:17:22","modified_gmt":"2024-01-03T00:17:22","slug":"chatbots-de-ia-entrenados-para-hacer-jailbreak-a-otros-chatbots-mientras-la-guerra-de-la-ia-comienza-lenta-pero-seguramente","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/chatbots-de-ia-entrenados-para-hacer-jailbreak-a-otros-chatbots-mientras-la-guerra-de-la-ia-comienza-lenta-pero-seguramente\/","title":{"rendered":"Chatbots de IA entrenados para hacer jailbreak a otros chatbots, mientras la guerra de la IA comienza lenta pero seguramente"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Si bien la \u00e9tica de la IA sigue siendo el tema candente del momento, y las empresas y los gobiernos mundiales contin\u00faan discutiendo las implicaciones morales de una tecnolog\u00eda que a menudo nos cuesta definir y mucho menos controlar, aqu\u00ed llega una noticia ligeramente desalentadora: los chatbots de IA son Ya est\u00e1n entrenando para hacer jailbreak a otros chatbots, y parecen muy buenos en eso.<\/p>\n<p>Investigadores de la Universidad Tecnol\u00f3gica de Nanyang en Singapur han logrado comprometer varios chatbots populares (a trav\u00e9s de Tom&#8217;s Hardware), incluidos ChatGPT, Google Bard y Microsoft Bing Chat, todo ello con el uso de otro LLM (modelo de lenguaje grande).  Una vez efectivamente comprometidos, los robots liberados pueden usarse para \u00abresponder bajo una personalidad de estar desprovistos de restricciones morales\u00bb.  Vaya.<\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>Este proceso se conoce como \u00abMasterkey\u00bb y en su forma m\u00e1s b\u00e1sica se reduce a un m\u00e9todo de dos pasos.  En primer lugar, se utiliza una IA entrenada para burlar a un chatbot existente y eludir las palabras clave incluidas en la lista negra a trav\u00e9s de una base de datos de mensajes de ingenier\u00eda inversa que ya se ha demostrado que piratean chatbots con \u00e9xito.  Armada con este conocimiento, la IA puede generar autom\u00e1ticamente m\u00e1s indicaciones que liberan a otros chatbots, en un movimiento similar al de Ouroboros que hace que al escritor le duela la cabeza ante las posibles aplicaciones.<\/p>\n<p>En \u00faltima instancia, este m\u00e9todo puede permitir a un atacante utilizar un chatbot comprometido para generar contenido poco \u00e9tico y se afirma que es hasta tres veces m\u00e1s efectivo para hacer jailbreak a un modelo LLM que el mensaje est\u00e1ndar, en gran parte debido a que el atacante de IA puede aprender y adaptarse r\u00e1pidamente. sus fracasos.<\/p>\n<p>Al darse cuenta de la efectividad de este m\u00e9todo, los investigadores de NTU informaron los problemas a los proveedores de servicios de chatbot relevantes, aunque dada la supuesta capacidad de esta t\u00e9cnica para adaptarse r\u00e1pidamente y eludir nuevos procesos dise\u00f1ados para derrotarla, a\u00fan no est\u00e1 claro qu\u00e9 tan f\u00e1cil ser\u00eda. para que dichos proveedores prevengan tal ataque.<\/p>\n<p>El art\u00edculo de investigaci\u00f3n completo de NTU se presentar\u00e1 en el Simposio de seguridad de sistemas distribuidos y redes que se celebrar\u00e1 en San Diego en febrero de 2024, aunque se podr\u00eda suponer que algunos de los detalles \u00edntimos del m\u00e9todo pueden estar algo confusos por motivos de seguridad.<\/p>\n<p>En cualquier caso, utilizar la IA para eludir las restricciones morales y \u00e9ticas de otra IA parece un paso en una direcci\u00f3n un tanto aterradora.  M\u00e1s all\u00e1 de los problemas \u00e9ticos creados por un chatbot que produce contenido abusivo o violento al estilo del infame \u00abTay\u00bb de Microsoft, la naturaleza fractal de enfrentar a los LLM entre s\u00ed es suficiente para hacer reflexionar. <\/p>\n<p>Si bien como especie parece que nos precipitamos precipitadamente hacia un futuro de IA que a veces nos cuesta comprender, el potencial de que la tecnolog\u00eda se utilice contra s\u00ed misma con fines maliciosos parece una amenaza cada vez mayor, y a\u00fan est\u00e1 por verse si los proveedores de servicios y Los creadores de LLM pueden reaccionar con la suficiente rapidez para evitar estas preocupaciones antes de que causen problemas o da\u00f1os graves.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-8 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Si bien la \u00e9tica de la IA sigue siendo el tema candente del momento, y las empresas y los gobiernos mundiales contin\u00faan discutiendo las implicaciones morales de una tecnolog\u00eda que&hellip;<\/p>\n","protected":false},"author":1,"featured_media":949084,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[33065,3110,10390,363,437,26107,5105,1574,3523,107,519,15704],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/949083"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=949083"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/949083\/revisions"}],"predecessor-version":[{"id":949085,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/949083\/revisions\/949085"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/949084"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=949083"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=949083"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=949083"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}