en un pintoresco En una oficina de la era de la Regencia con vistas a Russell Square de Londres, cofundé una empresa llamada DeepMind con dos amigos, Demis Hassabis y Shane Legg, en el verano de 2010. Nuestro objetivo, uno que todavía parece tan ambicioso, loco y esperanzador como en aquel entonces, Era replicar aquello que nos hace únicos como especie: nuestra inteligencia.
Para lograr esto, necesitaríamos crear un sistema que pudiera imitar y eventualmente superar todas las capacidades cognitivas humanas, desde la visión y el habla hasta la planificación y la imaginación y, en última instancia, la empatía y la creatividad. Dado que un sistema de este tipo se beneficiaría del procesamiento paralelo masivo de supercomputadoras y de la explosión de nuevas y enormes fuentes de datos a través de la web abierta, sabíamos que incluso un progreso modesto hacia este objetivo tendría profundas implicaciones sociales.
Ciertamente se sintió bastante extraño en ese momento.
Pero la IA ha estado subiendo la escalera de las capacidades cognitivas durante décadas, y ahora parece que alcanzará un rendimiento a nivel humano en una gama muy amplia de tareas en los próximos tres años. Se trata de una afirmación importante, pero si estoy siquiera cerca de tener razón, las implicaciones son verdaderamente profundas.
Un mayor progreso en un área acelera las demás en un proceso caótico y catalizador cruzado que escapa al control directo de cualquiera. Estaba claro que si nosotros u otros teníamos éxito en replicar la inteligencia humana, esto no sería simplemente un negocio rentable como siempre, sino un cambio sísmico para la humanidad, inaugurando una era en la que oportunidades sin precedentes irían acompañadas de riesgos sin precedentes. Ahora, junto con una serie de tecnologías que incluyen la biología sintética, la robótica y la computación cuántica, está comenzando a surgir una ola de IA extremadamente capaz y de rápido desarrollo. Lo que parecía quijotesco cuando fundamos DeepMind se ha vuelto no sólo plausible sino aparentemente inevitable.
Como creador de estas tecnologías, creo que pueden generar una cantidad extraordinaria de beneficios. Pero sin lo que yo llamo contención, cualquier otro aspecto de una tecnología, cada discusión sobre sus deficiencias éticas o los beneficios que podría aportar, es intrascendente. Veo la contención como un conjunto entrelazado de mecanismos técnicos, sociales y legales que restringen y controlan la tecnología, funcionando en todos los niveles posibles: un medio, en teoría, de evadir el dilema de cómo podemos mantener el control de las tecnologías más poderosas de la historia. Necesitamos urgentemente respuestas irrefutables sobre cómo controlar y contener la ola que se avecina, cómo mantener las salvaguardias y posibilidades del Estado-nación democrático, fundamentales para gestionar estas tecnologías y, sin embargo, amenazadas por ellas. En este momento nadie tiene un plan así. Esto indica un futuro que ninguno de nosotros quiere, pero temo que sea cada vez más probable.
Frente a inmensos incentivos arraigados que impulsan el avance de la tecnología, la contención no es, a primera vista, posible. Y, sin embargo, por el bien de todos, la contención debe ser posible.
Parecería que la clave para la contención es una regulación hábil a nivel nacional y supranacional, que equilibre la necesidad de avanzar junto con restricciones de seguridad sensatas, que abarquen todo, desde gigantes tecnológicos y militares hasta pequeños grupos de investigación universitarios y nuevas empresas, unidos en un marco integral y ejecutable. estructura. Lo hemos hecho antes así va el argumento; mire los automóviles, los aviones y las medicinas. ¿No es así como gestionamos y contenemos la ola que se avecina?
Si sólo fuera así de simple. La regulación es esencial. Pero la regulación por sí sola no es suficiente. A primera vista, los gobiernos deberían estar mejor preparados que nunca para gestionar riesgos y tecnologías novedosos. Los presupuestos nacionales para este tipo de cosas se encuentran generalmente en niveles récord. Sin embargo, la verdad es que las nuevas amenazas son excepcionalmente difíciles de afrontar para cualquier gobierno. Ése no es un defecto de la idea de gobierno; es una evaluación de la magnitud del desafío que tenemos ante nosotros. Los gobiernos luchan la última guerra, la última pandemia, regulan la última ola. Los reguladores regulan las cosas que pueden anticipar.