{"id":744399,"date":"2023-07-25T12:57:52","date_gmt":"2023-07-25T12:57:52","guid":{"rendered":"https:\/\/magazineoffice.com\/los-complementos-de-chatgpt-plantean-riesgos-de-seguridad\/"},"modified":"2023-07-25T12:57:56","modified_gmt":"2023-07-25T12:57:56","slug":"los-complementos-de-chatgpt-plantean-riesgos-de-seguridad","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/los-complementos-de-chatgpt-plantean-riesgos-de-seguridad\/","title":{"rendered":"Los complementos de ChatGPT plantean riesgos de seguridad"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p><span class=\"lead-in-text-callout\">sobre el pasado<\/span> ocho meses, ChatGPT ha impresionado a millones de personas con su capacidad para generar texto de apariencia realista, escribiendo de todo, desde historias hasta c\u00f3digo.  Pero el chatbot, desarrollado por OpenAI, todav\u00eda es relativamente limitado en lo que puede hacer.<\/p>\n<p class=\"paywall\">El modelo de lenguaje grande (LLM) toma \u00abindicaciones\u00bb de los usuarios que utiliza para generar texto aparentemente relacionado.  Estas respuestas se crean en parte a partir de datos extra\u00eddos de Internet en septiembre de 2021, y no obtiene nuevos datos de la web.  Ingrese complementos, que agregan funcionalidad pero est\u00e1n disponibles solo para personas que pagan por acceder a GPT-4, la versi\u00f3n actualizada del modelo de OpenAI.<\/p>\n<p class=\"paywall\">Desde que OpenAI lanz\u00f3 complementos para ChatGPT en marzo, los desarrolladores se han apresurado a crear y publicar complementos que permitan al chatbot hacer mucho m\u00e1s.  Los complementos existentes le permiten buscar vuelos y planificar viajes, y hacen que ChatGPT pueda acceder y analizar texto en sitios web, documentos y videos.  Otros complementos son m\u00e1s especializados y le prometen la posibilidad de chatear con el manual del propietario de Tesla o buscar discursos pol\u00edticos brit\u00e1nicos.  Actualmente hay m\u00e1s de 100 p\u00e1ginas de complementos enumerados en la tienda de complementos de ChatGPT.<\/p>\n<p class=\"paywall\">Pero en medio de la explosi\u00f3n de estas extensiones, los investigadores de seguridad dicen que hay algunos problemas con la forma en que funcionan los complementos, que pueden poner en riesgo los datos de las personas o potencialmente ser abusados \u200b\u200bpor piratas inform\u00e1ticos malintencionados.<\/p>\n<p class=\"paywall\">Johann Rehberger, director del equipo rojo de Electronic Arts e investigador de seguridad, ha estado documentando problemas con los complementos de ChatGPT en su tiempo libre.  El investigador ha documentado c\u00f3mo los complementos de ChatGPT podr\u00edan usarse para robar el historial de chat de alguien, obtener informaci\u00f3n personal y permitir que el c\u00f3digo se ejecute de forma remota en la m\u00e1quina de alguien.  Se ha centrado principalmente en complementos que usan OAuth, un est\u00e1ndar web que le permite compartir datos entre cuentas en l\u00ednea.  Rehberger dice que se ha puesto en contacto en privado con alrededor de media docena de desarrolladores de complementos para plantear problemas y se ha puesto en contacto con OpenAI varias veces.<\/p>\n<p class=\"paywall\">\u201cChatGPT no puede confiar en el complemento\u201d, dice Rehberger.  \u201cB\u00e1sicamente, no puede confiar en lo que regresa del complemento porque podr\u00eda ser cualquier cosa\u201d.  Un sitio web o documento malicioso podr\u00eda, mediante el uso de un complemento, intentar ejecutar un ataque de inyecci\u00f3n r\u00e1pida contra el modelo de lenguaje grande (LLM).  O podr\u00eda insertar cargas \u00fatiles maliciosas, dice Rehberger.<\/p>\n<aside aria-hidden=\"true\" class=\"PullQuoteEmbedWrapper-sc-EoVjf kgVYDs\">\n<div class=\"PullQuoteEmbedContent-sc-kTcfhx knYsPB\">\n<p class=\"paywall\">\u201cPotencialmente le est\u00e1 dando las llaves del reino: acceso a sus bases de datos y otros sistemas\u201d.<\/p>\n<\/div>\n<p><span class=\"paywall\">Steve Wilson, director de productos de Contrast Security<\/span><\/p>\n<\/aside>\n<p class=\"paywall\">Los datos tambi\u00e9n podr\u00edan ser potencialmente robados a trav\u00e9s de la falsificaci\u00f3n de solicitudes de complementos cruzados, dice el investigador.  Un sitio web podr\u00eda incluir una inyecci\u00f3n r\u00e1pida que haga que ChatGPT abra otro complemento y realice acciones adicionales, lo que ha demostrado a trav\u00e9s de una prueba de concepto.  Los investigadores llaman a esto \u00abencadenamiento\u00bb, donde un complemento llama a otro para operar.  \u00abNo hay l\u00edmites de seguridad reales\u00bb dentro de los complementos de ChatGPT, dice Rehberger.  \u201cNo est\u00e1 muy bien definido, cu\u00e1l es la seguridad y la confianza, cu\u00e1les son las responsabilidades reales [are] de cada actor\u201d.<\/p>\n<p class=\"paywall\">Desde que se lanzaron en marzo, los complementos de ChatGPT han estado en versi\u00f3n beta, esencialmente una versi\u00f3n experimental temprana.  Al usar complementos en ChatGPT, el sistema advierte que las personas deben confiar en un complemento antes de usarlo, y que para que el complemento funcione, es posible que ChatGPT deba enviar su conversaci\u00f3n y otros datos al complemento.<\/p>\n<p class=\"paywall\">Niko Felix, un portavoz de OpenAI, dice que la compa\u00f1\u00eda est\u00e1 trabajando para mejorar ChatGPT contra las \u00abexplosiones\u00bb que pueden conducir a que se abuse de su sistema.  Actualmente revisa los complementos antes de que se incluyan en su tienda.  En una publicaci\u00f3n de blog en junio, la compa\u00f1\u00eda dijo que ha visto investigaciones que muestran c\u00f3mo \u00ablos datos no confiables de la salida de una herramienta pueden indicarle al modelo que realice acciones no deseadas\u00bb.  Y que alienta a los desarrolladores a hacer que las personas hagan clic en los botones de confirmaci\u00f3n antes de que ChatGPT realice acciones con \u00abimpacto en el mundo real\u00bb, como enviar un correo electr\u00f3nico.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-46<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>sobre el pasado ocho meses, ChatGPT ha impresionado a millones de personas con su capacidad para generar texto de apariencia realista, escribiendo de todo, desde historias hasta c\u00f3digo. Pero el&hellip;<\/p>\n","protected":false},"author":1,"featured_media":744400,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21981],"tags":[65604,42399,8,9922,9229,388],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/744399"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=744399"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/744399\/revisions"}],"predecessor-version":[{"id":744401,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/744399\/revisions\/744401"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/744400"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=744399"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=744399"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=744399"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}