{"id":739624,"date":"2023-07-21T18:17:26","date_gmt":"2023-07-21T18:17:26","guid":{"rendered":"https:\/\/magazineoffice.com\/las-principales-empresas-de-ia-visitan-la-casa-blanca-para-hacer-compromisos-de-seguridad-voluntarios\/"},"modified":"2023-07-21T18:17:30","modified_gmt":"2023-07-21T18:17:30","slug":"las-principales-empresas-de-ia-visitan-la-casa-blanca-para-hacer-compromisos-de-seguridad-voluntarios","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/las-principales-empresas-de-ia-visitan-la-casa-blanca-para-hacer-compromisos-de-seguridad-voluntarios\/","title":{"rendered":"Las principales empresas de IA visitan la Casa Blanca para hacer compromisos de seguridad &#8216;voluntarios&#8217;"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p id=\"speakable-summary\">Si bien la legislaci\u00f3n sustantiva de IA a\u00fan puede tardar a\u00f1os, la industria se est\u00e1 moviendo a la velocidad de la luz y muchos, incluida la Casa Blanca, est\u00e1n preocupados de que pueda dejarse llevar.  Por lo tanto, la administraci\u00f3n de Biden ha recopilado \u00abcompromisos voluntarios\u00bb de siete de los mayores desarrolladores de inteligencia artificial para perseguir objetivos compartidos de seguridad y transparencia antes de una orden ejecutiva planificada.<\/p>\n<p>OpenAI, Anthropic, Google, Inflection, Microsoft, Meta y Amazon son las empresas que participan en este acuerdo no vinculante y enviar\u00e1n representantes a la Casa Blanca para reunirse hoy con el presidente Biden.<\/p>\n<p>Para ser claros, aqu\u00ed no se propone ninguna regla o aplicaci\u00f3n: las pr\u00e1cticas acordadas son puramente voluntarias.  Pero aunque ninguna agencia gubernamental responsabilizar\u00e1 a una empresa si elude algunos, es probable que tambi\u00e9n sea un asunto de dominio p\u00fablico.<\/p>\n<p>Aqu\u00ed est\u00e1 la lista de asistentes al concierto de la Casa Blanca:<\/p>\n<ul>\n<li class=\"m_2456566108588919563MsoListParagraph\">Brad Smith, presidente de Microsoft<u\/><u\/><\/li>\n<li class=\"m_2456566108588919563MsoListParagraph\">Kent Walker, presidente de Google<u\/><u\/><\/li>\n<li class=\"m_2456566108588919563MsoListParagraph\">Dario Amodei, CEO, Anthropic<u\/><u\/><\/li>\n<li class=\"m_2456566108588919563MsoListParagraph\">Mustafa Suleyman, director ejecutivo de Inflection AI<u\/><u\/><\/li>\n<li class=\"m_2456566108588919563MsoListParagraph\">Nick Clegg, presidente de Meta<u\/><u\/><\/li>\n<li class=\"m_2456566108588919563MsoListParagraph\">Greg Brockman, presidente de OpenAI<u\/><u\/><\/li>\n<li class=\"m_2456566108588919563MsoListParagraph\">Adam Selipsky, director ejecutivo, servicios web de Amazon<\/li>\n<\/ul>\n<p>Sin subordinados, pero tampoco multimillonarios.  (Y ninguna mujer.)<\/p>\n<p>Las siete compa\u00f1\u00edas (y probablemente otras que no recibieron el tratamiento de la alfombra roja pero querr\u00e1n participar) se han comprometido a lo siguiente:<\/p>\n<ul>\n<li>Pruebas de seguridad internas y externas de los sistemas de IA antes del lanzamiento, incluido el \u00abequipo rojo\u00bb adversario por parte de expertos externos a la empresa.<\/li>\n<li>Comparta informaci\u00f3n entre el gobierno, la academia y la \u00absociedad civil\u00bb sobre los riesgos de la IA y las t\u00e9cnicas de mitigaci\u00f3n (como la prevenci\u00f3n del \u00abjailbreak\u00bb).<\/li>\n<li>Invierta en seguridad cibern\u00e9tica y \u00abprotecci\u00f3n contra amenazas internas\u00bb para proteger datos de modelos privados como pesos.  Esto es importante no solo para proteger la propiedad intelectual, sino tambi\u00e9n porque la divulgaci\u00f3n prematura a gran escala podr\u00eda representar una oportunidad para los actores malintencionados.<\/li>\n<li>Facilite el descubrimiento y la notificaci\u00f3n de vulnerabilidades por parte de terceros, por ejemplo, un programa de recompensas por errores o un an\u00e1lisis experto del dominio.<\/li>\n<li>Desarrolle marcas de agua s\u00f3lidas o alguna otra forma de marcar el contenido generado por IA.<\/li>\n<li>Reporte las \u00abcapacidades, limitaciones y \u00e1reas de uso apropiado e inapropiado\u00bb de los sistemas de IA.  Buena suerte para obtener una respuesta directa sobre esto.<\/li>\n<li>Priorizar la investigaci\u00f3n sobre riesgos sociales como el sesgo sistem\u00e1tico o los problemas de privacidad.<\/li>\n<li>Desarrollar e implementar IA \u00abpara ayudar a abordar los mayores desaf\u00edos de la sociedad\u00bb, como la prevenci\u00f3n del c\u00e1ncer y el cambio clim\u00e1tico.  (Aunque en una llamada de prensa se se\u00f1al\u00f3 que no se estaba rastreando la huella de carbono de los modelos de IA).<\/li>\n<\/ul>\n<p>Si bien lo anterior es voluntario, uno puede imaginar f\u00e1cilmente que la amenaza de una orden ejecutiva (actualmente est\u00e1n \u201cdesarrollando\u201d una) est\u00e1 ah\u00ed para alentar el cumplimiento.  Por ejemplo, si algunas empresas no permiten pruebas de seguridad externas de sus modelos antes del lanzamiento, el EO puede <em>desarrollar<\/em> un p\u00e1rrafo que ordena a la FTC que observe de cerca los productos de IA que afirman una seguridad s\u00f3lida.  (Una EO ya est\u00e1 en vigor pidiendo a las agencias que tengan cuidado con los sesgos en el desarrollo y uso de la IA).<\/p>\n<p>La Casa Blanca est\u00e1 claramente ansiosa por salir adelante de esta pr\u00f3xima gran ola de tecnolog\u00eda, ya que las capacidades disruptivas de las redes sociales la tomaron desprevenida.  El presidente y el vicepresidente se han reunido con l\u00edderes de la industria y han solicitado asesoramiento sobre una estrategia nacional de IA, adem\u00e1s de dedicar una gran cantidad de fondos a nuevos centros y programas de investigaci\u00f3n de IA.  Por supuesto, el aparato nacional de ciencia e investigaci\u00f3n est\u00e1 muy por delante de ellos, como muestra este informe muy completo (aunque necesariamente un poco desactualizado) sobre desaf\u00edos y oportunidades de investigaci\u00f3n del DOE y National Labs.<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-48<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Si bien la legislaci\u00f3n sustantiva de IA a\u00fan puede tardar a\u00f1os, la industria se est\u00e1 moviendo a la velocidad de la luz y muchos, incluida la Casa Blanca, est\u00e1n preocupados&hellip;<\/p>\n","protected":false},"author":1,"featured_media":739625,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[4886,960,2115,3848,437,246,107,1329,388,14849,7971],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/739624"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=739624"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/739624\/revisions"}],"predecessor-version":[{"id":739626,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/739624\/revisions\/739626"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/739625"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=739624"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=739624"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=739624"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}