{"id":604657,"date":"2023-05-02T12:21:16","date_gmt":"2023-05-02T12:21:16","guid":{"rendered":"https:\/\/magazineoffice.com\/el-padrino-del-aprendizaje-profundo-abandona-google-y-advierte-sobre-los-peligros-de-la-ia-no-creo-que-deban-escalar-esto-mas-hasta-que-hayan-entendido-si-pueden-controlarlo\/"},"modified":"2023-05-02T12:21:19","modified_gmt":"2023-05-02T12:21:19","slug":"el-padrino-del-aprendizaje-profundo-abandona-google-y-advierte-sobre-los-peligros-de-la-ia-no-creo-que-deban-escalar-esto-mas-hasta-que-hayan-entendido-si-pueden-controlarlo","status":"publish","type":"post","link":"https:\/\/magazineoffice.com\/el-padrino-del-aprendizaje-profundo-abandona-google-y-advierte-sobre-los-peligros-de-la-ia-no-creo-que-deban-escalar-esto-mas-hasta-que-hayan-entendido-si-pueden-controlarlo\/","title":{"rendered":"&#8216;El padrino del aprendizaje profundo&#8217; abandona Google y advierte sobre los peligros de la IA: &#8216;No creo que deban escalar esto m\u00e1s hasta que hayan entendido si pueden controlarlo&#8217;"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Geoffrey Hinton, conocido coloquialmente como el \u00abpadrino del aprendizaje profundo\u00bb, pas\u00f3 la \u00faltima d\u00e9cada trabajando en el desarrollo de inteligencia artificial en Google.  Pero en una entrevista con The New York Times<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span>Hinton anunci\u00f3 que renunci\u00f3 a su cargo y dijo que est\u00e1 preocupado por la tasa de desarrollo de la IA y su potencial de da\u00f1o.<\/p>\n<p>Hinton es uno de los investigadores m\u00e1s destacados en el campo del desarrollo de IA.  la sociedad real<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span>para el que fue elegido como miembro en 1998, lo describe como \u00abdistinguido por su trabajo en redes neuronales artificiales, especialmente en c\u00f3mo pueden dise\u00f1arse para aprender sin la ayuda de un maestro humano\u00bb, y dijo que su trabajo \u00abbien podr\u00eda ser el comienzo de m\u00e1quinas aut\u00f3nomas inteligentes similares al cerebro\u00bb.<\/p>\n<aside class=\"hawk-nest\" data-render-type=\"fte\" data-skip=\"dealsy\" data-widget-type=\"seasonal\"\/>\n<p>En 2012, \u00e9l y los estudiantes Alex Krizhevsky e Ilya Sutskever desarrollaron un sistema llamado AlexNet.<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span>, una \u00abred neuronal convolucional\u00bb capaz de reconocer e identificar objetos en im\u00e1genes con una precisi\u00f3n mucho mayor que cualquier sistema anterior.  Poco despu\u00e9s de usar AlexNet para ganar el desaf\u00edo ImageNet 2012<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span>lanzaron una nueva empresa llamada DNN Research, que Google adquiri\u00f3 r\u00e1pidamente por 44 millones de d\u00f3lares.<\/p>\n<p>Hinton continu\u00f3 su trabajo de IA a tiempo parcial en Google; tambi\u00e9n es profesor en la Universidad de Toronto.<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span>\u2014y liderar los avances en el campo: en 2018, por ejemplo, fue co-ganador del Premio Turing<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span> por \u00abgrandes avances en inteligencia artificial\u00bb. <\/p>\n<p>\u00abFue uno de los investigadores que introdujo el algoritmo de retropropagaci\u00f3n y el primero en utilizar la retropropagaci\u00f3n para aprender incrustaciones de palabras\u00bb, su p\u00e1gina de empleado de Google, que probablemente ser\u00e1 eliminada pr\u00f3ximamente.<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span> dice.  \u00abSus otras contribuciones a la investigaci\u00f3n de redes neuronales incluyen m\u00e1quinas de Boltzmann, representaciones distribuidas, redes neuronales de retardo de tiempo, mezclas de expertos, aprendizaje variacional, productos de expertos y redes de creencias profundas. Su grupo de investigaci\u00f3n en Toronto logr\u00f3 importantes avances en el aprendizaje profundo que han revolucionado reconocimiento de voz y clasificaci\u00f3n de objetos\u00bb.<\/p>\n<figure class=\"van-image-figure inline-layout\" data-bordeaux-image-check=\"\">\n<div class=\"image-full-width-wrapper\">\n<div class=\"image-widthsetter\" style=\"max-width:3840px;\">\n<p class=\"vanilla-image-block\" style=\"padding-top:56.04%;\"><picture><source type=\"image\/webp\" alt=\"Geoffrey Hinton Google page\" class=\"expandable lazy-image-van\" onerror=\"if(this.src &amp;&amp; this.src.indexOf('missing-image.svg') !== -1)return true;;this.parentNode.replaceChild(window.missingImage(),this)\" data-normal=\"https:\/\/vanilla.futurecdn.net\/pcgamer\/media\/img\/missing-image.svg\" data-srcset=\"https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-320-80.jpg.webp 320w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-480-80.jpg.webp 480w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-650-80.jpg.webp 650w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-970-80.jpg.webp 970w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-1024-80.jpg.webp 1024w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-1200-80.jpg.webp 1200w\" data-sizes=\"(min-width: 1000px) 970px, calc(100vw - 40px)\" data-original-mos=\"https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7.jpg\" data-pin-media=\"https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7.jpg\"\/><source type=\"image\/jpeg\" alt=\"Geoffrey Hinton Google page\" class=\"expandable lazy-image-van\" onerror=\"if(this.src &amp;&amp; this.src.indexOf('missing-image.svg') !== -1)return true;;this.parentNode.replaceChild(window.missingImage(),this)\" data-normal=\"https:\/\/vanilla.futurecdn.net\/pcgamer\/media\/img\/missing-image.svg\" data-srcset=\"https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-320-80.jpg 320w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-480-80.jpg 480w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-650-80.jpg 650w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-970-80.jpg 970w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-1024-80.jpg 1024w, https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7-1200-80.jpg 1200w\" data-sizes=\"(min-width: 1000px) 970px, calc(100vw - 40px)\" data-original-mos=\"https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7.jpg\" data-pin-media=\"https:\/\/cdn.mos.cms.futurecdn.net\/itPFMbcmSzQMFEPqPybfn7.jpg\"\/><\/picture><\/p>\n<\/div>\n<\/div><figcaption itemprop=\"caption description\" class=\" inline-layout\"><span class=\"credit\" itemprop=\"copyrightHolder\">(Cr\u00e9dito de la imagen: Google)<\/span><\/figcaption><\/figure>\n<p>M\u00e1s recientemente, sin embargo, aparentemente ha tenido un cambio dram\u00e1tico de opini\u00f3n sobre la naturaleza de su trabajo.  Parte de la nueva preocupaci\u00f3n de Hinton surge del ritmo \u00abaterrador\u00bb al que avanza el desarrollo de la IA.  \u00abLa idea de que estas cosas en realidad podr\u00edan volverse m\u00e1s inteligentes que las personas, algunas personas lo cre\u00edan\u00bb, dijo Hinton.  \u00abPero la mayor\u00eda de la gente pens\u00f3 que estaba muy lejos. Y yo pens\u00e9 que estaba muy lejos. Pens\u00e9 que estaba lejos de 30 a 50 a\u00f1os o incluso m\u00e1s. Obviamente, ya no pienso eso\u00bb.<\/p>\n<p>Eso est\u00e1 sucediendo, al menos en parte, como resultado de intereses corporativos en competencia, ya que Microsoft y Google compiten para desarrollar sistemas de IA m\u00e1s avanzados.  No est\u00e1 claro qu\u00e9 se puede hacer al respecto: Hinton dijo que cree que la carrera hacia la cima solo se puede gestionar a trav\u00e9s de alg\u00fan tipo de regulaci\u00f3n global, pero eso puede ser imposible porque no hay forma de saber en qu\u00e9 est\u00e1n trabajando las empresas a puerta cerrada.  Por lo tanto, cree que corresponde a la comunidad cient\u00edfica tomar medidas.<\/p>\n<p>\u00abNo creo que deban escalar esto m\u00e1s hasta que hayan entendido si pueden controlarlo\u00bb, dijo.<\/p>\n<p>Pero incluso si los cient\u00edficos eligen adoptar un enfoque m\u00e1s lento y deliberado de la IA (lo que creo que es poco probable), el resultado inevitable del desarrollo continuo obviamente tambi\u00e9n preocupa a Hinton: \u00abEs dif\u00edcil ver c\u00f3mo se puede evitar que los malos actores la utilicen\u00bb. por cosas malas\u00bb, dijo.<\/p>\n<p>Los \u00faltimos comentarios de Hinton contrastan de manera interesante con una entrevista de 2016 con Maclean&#8217;s.<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span>en el que expres\u00f3 la necesidad de precauci\u00f3n pero dijo que no deber\u00eda usarse para obstaculizar el desarrollo de la IA en el futuro. <\/p>\n<p>\u00abEs un poco como&#8230; tan pronto como tienes una buena tecnolog\u00eda mec\u00e1nica, puedes hacer cosas como retroexcavadoras que pueden cavar hoyos en el camino. Pero, por supuesto, una retroexcavadora puede romperte la cabeza\u00bb, dijo Hinton.  \u00abPero uno no quiere no desarrollar una retroexcavadora porque puede romperle la cabeza, eso se considerar\u00eda una tonter\u00eda.<\/p>\n<p>\u00abCualquier tecnolog\u00eda nueva, si es utilizada por personas malvadas, pueden suceder cosas malas. Pero eso es m\u00e1s una cuesti\u00f3n de pol\u00edtica de la tecnolog\u00eda. Creo que deber\u00edamos pensar en la IA como el equivalente intelectual de una retroexcavadora. Ser\u00e1 mucho mejor que nosotros en muchas cosas. Y puede ser incre\u00edblemente bueno: las retroexcavadoras pueden ahorrarnos mucho trabajo de excavaci\u00f3n. Pero, por supuesto, se puede usar mal\u00bb.<\/p>\n<p>La gente deber\u00eda estar pensando en el impacto que la IA tendr\u00e1 en la humanidad, dijo, pero agreg\u00f3, \u00ablo principal no deber\u00eda ser, c\u00f3mo paralizamos esta tecnolog\u00eda para que no sea da\u00f1ina, deber\u00eda ser, \u00bfc\u00f3mo \u00bfMejorar nuestro sistema pol\u00edtico para que la gente no pueda usarlo para malos prop\u00f3sitos?<\/p>\n<p>Hinton hizo declaraciones similares en una entrevista de 2016 con TVO, en la que reconoci\u00f3 el potencial de problemas, pero dijo que esperaba que estuvieran mucho m\u00e1s avanzados de lo que realmente est\u00e1n demostrando.<\/p>\n<p>Curiosamente, Hinton no fue uno de los firmantes de cartas abiertas recientes que ped\u00edan una \u00abpausa\u00bb de seis meses.<span class=\"sr-only\"> (se abre en una pesta\u00f1a nueva)<\/span> en el desarrollo de nuevos sistemas de IA.  Seg\u00fan el Times, no quer\u00eda criticar p\u00fablicamente a Google ni a otras empresas hasta despu\u00e9s de haber renunciado.  Sin embargo, Hinton aclar\u00f3 en Twitter que no dej\u00f3 Google para poder hablar sobre la compa\u00f1\u00eda, sino para poder \u00abhablar sobre los peligros de la IA sin considerar c\u00f3mo esto afecta a Google\u00bb.<\/p>\n<p>\u00abGoogle ha actuado de manera muy responsable\u00bb, agreg\u00f3.<\/p>\n<div class=\"see-more see-more--clipped\">\n<blockquote class=\"twitter-tweet hawk-ignore\" data-lang=\"en\">\n<p lang=\"en\" dir=\"ltr\">En el NYT de hoy, Cade Metz insin\u00faa que dej\u00e9 Google para poder criticar a Google.  En realidad, me fui para poder hablar sobre los peligros de la IA sin considerar c\u00f3mo afecta esto a Google.  Google ha actuado de forma muy responsable.<a href=\"https:\/\/twitter.com\/geoffreyhinton\/status\/1652993570721210372\" data-url=\"https:\/\/twitter.com\/geoffreyhinton\/status\/1652993570721210372\" target=\"_blank\" rel=\"noopener\">1 de mayo de 2023<\/a><\/p>\n<\/blockquote>\n<p><span class=\"see-more__button\" role=\"button\" tabindex=\"0\" aria-label=\"See more\">Ver m\u00e1s<\/span><\/p>\n<\/div>\n<p>Sea como fuere, es un gran problema que una de las mentes m\u00e1s destacadas en el desarrollo de IA ahora advierta que todo podr\u00eda ser muy malo para nosotros alg\u00fan d\u00eda.  La nueva perspectiva de Hinton tiene paralelos obvios con el arrepentimiento de Oppenheimer sobre su papel en el desarrollo de armas nucleares.  Por supuesto, las dudas de Oppenheimer vinieron despu\u00e9s del desarrollo y uso de la bomba at\u00f3mica, cuando era f\u00e1cil ver cu\u00e1n dram\u00e1ticamente hab\u00eda cambiado el mundo.  Queda por ver si los arrepentimientos de Hinton tambi\u00e9n se producen despu\u00e9s de que el caballo se haya escapado, o si todav\u00eda hay tiempo (y suficiente capacidad regulatoria en los gobiernos globales) para evitar lo peor.<\/p>\n<\/div>\n<p><script async src=\"\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/magazineoffice.com\/\">Source link-8 <\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Geoffrey Hinton, conocido coloquialmente como el \u00abpadrino del aprendizaje profundo\u00bb, pas\u00f3 la \u00faltima d\u00e9cada trabajando en el desarrollo de inteligencia artificial en Google. Pero en una entrevista con The New&hellip;<\/p>\n","protected":false},"author":1,"featured_media":604658,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[34],"tags":[5846,8313,3495,25047,6382,88762,194,54983,13374,435,3672,882,14185,8,84,1237,13534,6481,2964,15],"_links":{"self":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/604657"}],"collection":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/comments?post=604657"}],"version-history":[{"count":1,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/604657\/revisions"}],"predecessor-version":[{"id":604659,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/posts\/604657\/revisions\/604659"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media\/604658"}],"wp:attachment":[{"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/media?parent=604657"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/categories?post=604657"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/magazineoffice.com\/wp-json\/wp\/v2\/tags?post=604657"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}