{"id":887195,"date":"2023-11-16T09:36:26","date_gmt":"2023-11-16T09:36:26","guid":{"rendered":"https:\/\/magazineoffice.com\/un-comite-del-gobierno-del-reino-unido-pregunto-directamente-a-los-jefes-de-microsoft-y-meta-si-un-modelo-de-ia-se-identifica-como-inseguro-podrian-recordarlo-eludieron-la-pregunta-casi-por\/"},"modified":"2023-11-16T09:36:32","modified_gmt":"2023-11-16T09:36:32","slug":"un-comite-del-gobierno-del-reino-unido-pregunto-directamente-a-los-jefes-de-microsoft-y-meta-si-un-modelo-de-ia-se-identifica-como-inseguro-podrian-recordarlo-eludieron-la-pregunta-casi-por","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/un-comite-del-gobierno-del-reino-unido-pregunto-directamente-a-los-jefes-de-microsoft-y-meta-si-un-modelo-de-ia-se-identifica-como-inseguro-podrian-recordarlo-eludieron-la-pregunta-casi-por\/","title":{"rendered":"Un comit\u00e9 del gobierno del Reino Unido pregunt\u00f3 directamente a los jefes de Microsoft y Meta si un \u00abmodelo de IA se identifica como inseguro\u00bb, \u00bfpodr\u00edan recordarlo?  Eludieron la pregunta casi por completo."},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>El comit\u00e9 digital y de comunicaciones de la C\u00e1mara de los Lores se reuni\u00f3 hoy con Rob Sherman, vicepresidente de pol\u00edticas y director adjunto de privacidad de Meta, y Owen Larter, director de pol\u00edticas p\u00fablicas globales de IA responsable en Microsoft, para discutir grandes modelos de lenguaje y algunos de los aspectos m\u00e1s amplios. Implicaciones de la IA.  En una discusi\u00f3n de amplio alcance en la que se dijeron muchas palabras y no se transmiti\u00f3 mucha informaci\u00f3n real, un dato en particular llam\u00f3 nuestra atenci\u00f3n.<\/p>\n<p>Cuando la presidenta del comit\u00e9, la baronesa Stowell de Beeston, le pregunt\u00f3 directamente si alguna de las empresas era capaz de retirar un modelo de IA si hab\u00eda sido \u00abidentificado como inseguro\u00bb, o detener su implementaci\u00f3n y c\u00f3mo podr\u00eda funcionar, Rob Sherman dio una respuesta un tanto confusa:<\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>\u00abCreo que depende de cu\u00e1l sea la tecnolog\u00eda y c\u00f3mo se utilice&#8230; una de las cosas que es muy importante es pensar en estas cosas desde el principio antes de su lanzamiento&#8230; hay una serie de otras medidas que podemos tomar, as\u00ed que por ejemplo, una vez que se lanza un modelo, hay mucho trabajo que debe hacer lo que llamamos un implementador del modelo, por lo que no hay un solo actor responsable de implementar esta tecnolog\u00eda&#8230;<\/p>\n<p>\u00abCuando lanzamos Llama, [we] publicar una gu\u00eda de uso responsable que habla sobre los pasos que un implementador de la tecnolog\u00eda puede seguir para asegurarse de que se use de manera segura, y eso incluye cosas como lo que llamamos ajuste fino, que es tomar el modelo y asegurarse de que se use apropiadamente&#8230; y luego tambi\u00e9n filtrar los resultados para asegurarse de que cuando alguien lo est\u00e9 usando en una capacidad final, el modelo se est\u00e9 usando de manera responsable y reflexiva\u00bb.<\/p>\n<p>Owen Larter, de Microsoft, por su parte, no respondi\u00f3 en absoluto, aunque, para ser justos, la discusi\u00f3n fue amplia y un tanto presionada por el tiempo.  De todos modos, el hecho de que el representante de Meta no respondiera la pregunta directamente sino que ampliara su respuesta a un punto m\u00e1s amplio sobre el uso responsable por parte de otros no es del todo sorprendente.<\/p>\n<p>A lo largo del debate se habl\u00f3 mucho sobre la necesidad de un manejo cuidadoso de los modelos de IA y los riesgos y preocupaciones potenciales que esta nueva tecnolog\u00eda puede crear.<\/p>\n<p>Sin embargo, m\u00e1s all\u00e1 de unas pocas concesiones simb\u00f3licas a las pol\u00edticas de uso emergentes y a las asociaciones creadas para discutir el tema, el debate r\u00e1pidamente se volvi\u00f3 confuso cuando ambos representantes lucharon por definir en algunos puntos qu\u00e9 era lo que estaban debatiendo.<\/p>\n<p>Como dijo amablemente Rob Sherman anteriormente en la discusi\u00f3n con respecto a los riesgos potenciales del uso irresponsable de la IA:<\/p>\n<p>\u00ab\u00bfCu\u00e1les son los riesgos en los que estamos pensando, cu\u00e1les son las herramientas que tenemos para evaluar si esos riesgos existen y luego qu\u00e9 cosas debemos hacer para mitigarlos?\u00bb<\/p>\n<p>Si bien ambos participantes parec\u00edan estar de acuerdo en que hab\u00eda una \u00abconversaci\u00f3n por tener\u00bb sobre los temas discutidos, ninguno parec\u00eda particularmente interesado en tener esa conversaci\u00f3n, ya sabes, ahora.  Cada pregunta fue respondida r\u00e1pidamente con un flujo r\u00e1pido de pol\u00edticas potenciales, futuros mecanismos de evaluaci\u00f3n de riesgos y algunas medidas actualmente mal definidas que ya se est\u00e1n tomando, cuya suma total parece equivaler a \u00abestamos trabajando en ello\u00bb.<\/p>\n<p>Todo esto ser\u00e1 de poco consuelo para aquellos preocupados por las implicaciones de largo alcance de la IA y los riesgos potenciales de crear y lanzar una tecnolog\u00eda que incluso las empresas que la crean luchan por concretar en t\u00e9rminos significativos.<\/p>\n<p>Hoy puede haber sido una oportunidad para establecer algunos planes firmes sobre c\u00f3mo regular esta herramienta cada vez m\u00e1s importante, pero m\u00e1s all\u00e1 de alguna que otra concesi\u00f3n hacia \u00abprotecciones de seguridad\u00bb y un \u00abenfoque globalmente coherente\u00bb, parece que el progreso es lento en lo que respecta a controlar y regular la IA de cualquier manera significativa.<\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-8 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El comit\u00e9 digital y de comunicaciones de la C\u00e1mara de los Lores se reuni\u00f3 hoy con Rob Sherman, vicepresidente de pol\u00edticas y director adjunto de privacidad de Meta, y Owen&hellip;<\/p>\n","protected":false},"author":1,"featured_media":841054,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[1325,1184,216,5981,194,7352,87306,5471,37933,49883,3709,8,9842,683,1488,2652,110,755,487,72253,2678,2679],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/887195"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=887195"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/887195\/revisions"}],"predecessor-version":[{"id":887196,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/887195\/revisions\/887196"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/841054"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=887195"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=887195"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=887195"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}