{"id":949083,"date":"2024-01-03T00:17:19","date_gmt":"2024-01-03T00:17:19","guid":{"rendered":"https:\/\/magazineoffice.com\/chatbots-de-ia-entrenados-para-hacer-jailbreak-a-otros-chatbots-mientras-la-guerra-de-la-ia-comienza-lenta-pero-seguramente\/"},"modified":"2024-01-03T00:17:22","modified_gmt":"2024-01-03T00:17:22","slug":"chatbots-de-ia-entrenados-para-hacer-jailbreak-a-otros-chatbots-mientras-la-guerra-de-la-ia-comienza-lenta-pero-seguramente","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/chatbots-de-ia-entrenados-para-hacer-jailbreak-a-otros-chatbots-mientras-la-guerra-de-la-ia-comienza-lenta-pero-seguramente\/","title":{"rendered":"Chatbots de IA entrenados para hacer jailbreak a otros chatbots, mientras la guerra de la IA comienza lenta pero seguramente"},"content":{"rendered":"


\n<\/p>\n

\n

Si bien la \u00e9tica de la IA sigue siendo el tema candente del momento, y las empresas y los gobiernos mundiales contin\u00faan discutiendo las implicaciones morales de una tecnolog\u00eda que a menudo nos cuesta definir y mucho menos controlar, aqu\u00ed llega una noticia ligeramente desalentadora: los chatbots de IA son Ya est\u00e1n entrenando para hacer jailbreak a otros chatbots, y parecen muy buenos en eso.<\/p>\n

Investigadores de la Universidad Tecnol\u00f3gica de Nanyang en Singapur han logrado comprometer varios chatbots populares (a trav\u00e9s de Tom’s Hardware), incluidos ChatGPT, Google Bard y Microsoft Bing Chat, todo ello con el uso de otro LLM (modelo de lenguaje grande). Una vez efectivamente comprometidos, los robots liberados pueden usarse para \u00abresponder bajo una personalidad de estar desprovistos de restricciones morales\u00bb. Vaya.<\/p>\n