\n<\/p>\n
en un pintoresco<\/span> En una oficina de la era de la Regencia con vistas a Russell Square de Londres, cofund\u00e9 una empresa llamada DeepMind con dos amigos, Demis Hassabis y Shane Legg, en el verano de 2010. Nuestro objetivo, uno que todav\u00eda parece tan ambicioso, loco y esperanzador como en aquel entonces, Era replicar aquello que nos hace \u00fanicos como especie: nuestra inteligencia.<\/p>\n Para lograr esto, necesitar\u00edamos crear un sistema que pudiera imitar y eventualmente superar todas las capacidades cognitivas humanas, desde la visi\u00f3n y el habla hasta la planificaci\u00f3n y la imaginaci\u00f3n y, en \u00faltima instancia, la empat\u00eda y la creatividad. Dado que un sistema de este tipo se beneficiar\u00eda del procesamiento paralelo masivo de supercomputadoras y de la explosi\u00f3n de nuevas y enormes fuentes de datos a trav\u00e9s de la web abierta, sab\u00edamos que incluso un progreso modesto hacia este objetivo tendr\u00eda profundas implicaciones sociales.<\/p>\n Ciertamente se sinti\u00f3 bastante extra\u00f1o en ese momento.<\/p>\n Pero la IA ha estado subiendo la escalera de las capacidades cognitivas durante d\u00e9cadas, y ahora parece que alcanzar\u00e1 un rendimiento a nivel humano en una gama muy amplia de tareas en los pr\u00f3ximos tres a\u00f1os. Se trata de una afirmaci\u00f3n importante, pero si estoy siquiera cerca de tener raz\u00f3n, las implicaciones son verdaderamente profundas.<\/p>\n Un mayor progreso en un \u00e1rea acelera las dem\u00e1s en un proceso ca\u00f3tico y catalizador cruzado que escapa al control directo de cualquiera. Estaba claro que si nosotros u otros ten\u00edamos \u00e9xito en replicar la inteligencia humana, esto no ser\u00eda simplemente un negocio rentable como siempre, sino un cambio s\u00edsmico para la humanidad, inaugurando una era en la que oportunidades sin precedentes ir\u00edan acompa\u00f1adas de riesgos sin precedentes. Ahora, junto con una serie de tecnolog\u00edas que incluyen la biolog\u00eda sint\u00e9tica, la rob\u00f3tica y la computaci\u00f3n cu\u00e1ntica, est\u00e1 comenzando a surgir una ola de IA extremadamente capaz y de r\u00e1pido desarrollo. Lo que parec\u00eda quijotesco cuando fundamos DeepMind se ha vuelto no s\u00f3lo plausible sino aparentemente inevitable.<\/p>\n Como creador de estas tecnolog\u00edas, creo que pueden generar una cantidad extraordinaria de beneficios. Pero sin lo que yo llamo contenci\u00f3n, cualquier otro aspecto de una tecnolog\u00eda, cada discusi\u00f3n sobre sus deficiencias \u00e9ticas o los beneficios que podr\u00eda aportar, es intrascendente. Veo la contenci\u00f3n como un conjunto entrelazado de mecanismos t\u00e9cnicos, sociales y legales que restringen y controlan la tecnolog\u00eda, funcionando en todos los niveles posibles: un medio, en teor\u00eda, de evadir el dilema de c\u00f3mo podemos mantener el control de las tecnolog\u00edas m\u00e1s poderosas de la historia. Necesitamos urgentemente respuestas irrefutables sobre c\u00f3mo controlar y contener la ola que se avecina, c\u00f3mo mantener las salvaguardias y posibilidades del Estado-naci\u00f3n democr\u00e1tico, fundamentales para gestionar estas tecnolog\u00edas y, sin embargo, amenazadas por ellas. En este momento nadie tiene un plan as\u00ed. Esto indica un futuro que ninguno de nosotros quiere, pero temo que sea cada vez m\u00e1s probable.<\/p>\n Frente a inmensos incentivos arraigados que impulsan el avance de la tecnolog\u00eda, la contenci\u00f3n no es, a primera vista, posible. Y, sin embargo, por el bien de todos, la contenci\u00f3n debe<\/em> ser posible.<\/p>\n Parecer\u00eda que la clave para la contenci\u00f3n es una regulaci\u00f3n h\u00e1bil a nivel nacional y supranacional, que equilibre la necesidad de avanzar junto con restricciones de seguridad sensatas, que abarquen todo, desde gigantes tecnol\u00f3gicos y militares hasta peque\u00f1os grupos de investigaci\u00f3n universitarios y nuevas empresas, unidos en un marco integral y ejecutable. estructura. Lo hemos hecho antes<\/em> as\u00ed va el argumento; mire los autom\u00f3viles, los aviones y las medicinas. \u00bfNo es as\u00ed como gestionamos y contenemos la ola que se avecina?<\/em><\/p>\n Si s\u00f3lo fuera as\u00ed de simple. La regulaci\u00f3n es esencial. Pero la regulaci\u00f3n por s\u00ed sola no es suficiente. A primera vista, los gobiernos deber\u00edan estar mejor preparados que nunca para gestionar riesgos y tecnolog\u00edas novedosos. Los presupuestos nacionales para este tipo de cosas se encuentran generalmente en niveles r\u00e9cord. Sin embargo, la verdad es que las nuevas amenazas son excepcionalmente dif\u00edciles de afrontar para cualquier gobierno. \u00c9se no es un defecto de la idea de gobierno; es una evaluaci\u00f3n de la magnitud del desaf\u00edo que tenemos ante nosotros. Los gobiernos luchan la \u00faltima guerra, la \u00faltima pandemia, regulan la \u00faltima ola. Los reguladores regulan las cosas que pueden anticipar.<\/p>\n<\/div>\n