{"id":655911,"date":"2023-05-31T05:17:00","date_gmt":"2023-05-31T05:17:00","guid":{"rendered":"https:\/\/magazineoffice.com\/los-ejecutivos-de-openai-advierten-sobre-el-riesgo-de-extincion-de-la-inteligencia-artificial-en-una-nueva-carta-abierta\/"},"modified":"2023-05-31T05:17:03","modified_gmt":"2023-05-31T05:17:03","slug":"los-ejecutivos-de-openai-advierten-sobre-el-riesgo-de-extincion-de-la-inteligencia-artificial-en-una-nueva-carta-abierta","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/los-ejecutivos-de-openai-advierten-sobre-el-riesgo-de-extincion-de-la-inteligencia-artificial-en-una-nueva-carta-abierta\/","title":{"rendered":"Los ejecutivos de OpenAI advierten sobre el \u00abriesgo de extinci\u00f3n\u00bb de la inteligencia artificial en una nueva carta abierta"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div itemprop=\"articleBody\">\n<figure class=\"intro-image intro-left\"><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> Una imagen generada por IA de \u00abIA tomando el control del mundo\u00bb.<\/div>\n<p>Difusi\u00f3n estable<\/p>\n<\/figcaption><\/figure>\n<aside id=\"social-left\" class=\"social-left\" aria-label=\"Read the comments or share this article\">\n<\/aside>\n<p><!-- cache hit 1:single\/related:cedb35631aa9cc620048376578535c2f --><!-- empty --><\/p>\n<p>El martes, el Centro para la Seguridad de la IA (CAIS) emiti\u00f3 una declaraci\u00f3n de una sola oraci\u00f3n firmada por ejecutivos de OpenAI y DeepMind, ganadores del Premio Turing y otros investigadores de IA que advierten que el trabajo de su vida podr\u00eda extinguir a toda la humanidad.<\/p>\n<p>La breve declaraci\u00f3n, que seg\u00fan CAIS est\u00e1 destinada a abrir el debate sobre el tema de \u00abun amplio espectro de riesgos importantes y urgentes de la IA\u00bb, dice lo siguiente: \u00abMitigar el riesgo de extinci\u00f3n de la IA deber\u00eda ser una prioridad mundial junto con otros riesgos sociales\u00bb. riesgos a gran escala, como pandemias y guerras nucleares\u00bb.<\/p>\n<p>Los signatarios de alto perfil de la declaraci\u00f3n incluyen a los ganadores del Premio Turing Geoffery Hinton y Yoshua Bengio, el CEO de OpenAI, Sam Altman, el cient\u00edfico jefe de OpenAI, Ilya Sutskever, el CTO de OpenAI, Mira Murati, el CEO de DeepMind, Demis Hassabis, el CEO de Anthropic, Dario Amodei, y profesores de UC Berkeley, Stanford y MIT.<\/p>\n<p>Esta declaraci\u00f3n se produce mientras Altman viaja por el mundo y se re\u00fane con jefes de estado sobre la IA y sus peligros potenciales.  A principios de mayo, Altman abog\u00f3 por las regulaciones de su industria frente al Senado de los Estados Unidos.<\/p>\n<p>Teniendo en cuenta su corta extensi\u00f3n, la carta abierta de CAIS se destaca por lo que no incluye.  Por ejemplo, no especifica exactamente qu\u00e9 significa \u00abIA\u00bb, considerando que el t\u00e9rmino puede aplicarse a cualquier cosa, desde movimientos de fantasmas en <em>pac man<\/em> a modelos de lenguaje que pueden escribir sonetos al estilo de un mafioso sabio de los a\u00f1os cuarenta.  La carta tampoco sugiere c\u00f3mo se podr\u00edan mitigar los riesgos de extinci\u00f3n, solo que deber\u00eda ser una \u00abprioridad global\u00bb.<\/p>\n<aside class=\"ad_wrapper\" aria-label=\"In Content advertisement\">\n    <span class=\"ad_notice\">Anuncio <\/span>    <\/p>\n<\/aside>\n<p>Sin embargo, en un comunicado de prensa relacionado, CAIS dice que quiere \u00abestablecer barandillas y establecer instituciones para que los riesgos de la IA no nos tomen desprevenidos\u00bb, y compara la advertencia sobre la IA con la advertencia de J. Robert Oppenheimer sobre los efectos potenciales. de la bomba at\u00f3mica.<\/p>\n<h2>A los expertos en \u00e9tica de la IA no les hace gracia<\/h2>\n<figure class=\"image shortcode-img center large\" style=\"width:100%\"><img loading=\"lazy\" decoding=\"async\" alt=\"Una imagen generada por IA de un globo que ha dejado de girar.\" src=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2023\/03\/AI_pause_hero_1-640x360.jpg\" width=\"640\" height=\"360\" srcset=\"https:\/\/cdn.arstechnica.net\/wp-content\/uploads\/2023\/03\/AI_pause_hero_1.jpg 2x\"\/><figcaption class=\"caption\">\n<div class=\"caption-text\">Agrandar <span class=\"sep\">\/<\/span> Una imagen generada por IA de un globo que ha dejado de girar.<\/div>\n<p>Difusi\u00f3n estable<\/p>\n<\/figcaption><\/figure>\n<p>Esta no es la primera carta abierta sobre peligros hipot\u00e9ticos de IA que acaban con el mundo que hemos visto este a\u00f1o.  En marzo, el Future of Life Institute public\u00f3 una declaraci\u00f3n m\u00e1s detallada firmada por Elon Musk que abogaba por una pausa de seis meses en los modelos de IA \u00abm\u00e1s potentes que GPT-4\u00bb, que recibi\u00f3 una amplia cobertura de prensa pero tambi\u00e9n recibi\u00f3 una respuesta esc\u00e9ptica. de algunos en la comunidad de aprendizaje autom\u00e1tico.<\/p>\n<p>A los expertos que a menudo se enfocan en la \u00e9tica de la IA no les divierte esta tendencia emergente de cartas abiertas.<\/p>\n<p>La Dra. Sasha Luccioni, cient\u00edfica investigadora de aprendizaje autom\u00e1tico en Hugging Face, compara la nueva carta de CAIS con un juego de manos: \u00abEn primer lugar, mencionar el riesgo existencial hipot\u00e9tico de la IA al mismo tiempo que riesgos muy tangibles como las pandemias y el cambio clim\u00e1tico. , que son muy frescos y viscerales para el p\u00fablico, le da m\u00e1s credibilidad\u00bb, dice.  \u00abTambi\u00e9n es una mala direcci\u00f3n, atraer la atenci\u00f3n del p\u00fablico a una cosa (riesgos futuros) para que no piensen en otra (riesgos tangibles actuales como prejuicios, problemas legales y consentimiento)\u00bb.<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-49<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Agrandar \/ Una imagen generada por IA de \u00abIA tomando el control del mundo\u00bb. Difusi\u00f3n estable El martes, el Centro para la Seguridad de la IA (CAIS) emiti\u00f3 una declaraci\u00f3n&hellip;<\/p>\n","protected":false},"author":1,"featured_media":655912,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[21980],"tags":[3569,20904,6119,5359,9382,2819,5430,8,254,49133,2468,15,73],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/655911"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=655911"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/655911\/revisions"}],"predecessor-version":[{"id":655913,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/655911\/revisions\/655913"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/655912"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=655911"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=655911"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=655911"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}