La Unión Europea ha señalado un plan para ampliar el acceso a sus supercomputadoras de computación de alto rendimiento (HPC) al permitir que las nuevas empresas utilicen el recurso para entrenar modelos de IA. Sin embargo, hay un problema: las empresas emergentes que quieran obtener acceso a los recursos informáticos de alta potencia de la UE, que actualmente incluyen supercomputadoras de prexaescala y petaescala, tendrán que seguir el programa del bloque sobre gobernanza de la IA.
En mayo, la UE anunció un plan para un conjunto provisional de reglas o estándares voluntarios dirigidos a la industria que desarrolla y aplica la IA mientras se seguía trabajando en regulaciones formales, diciendo que la iniciativa tendría como objetivo preparar a las empresas para la implementación de reglas formales de IA en dentro de unos años.
El bloque también tiene en marcha la Ley de IA: un marco basado en riesgos para regular las aplicaciones de IA que todavía está siendo negociado por los colegisladores de la UE pero que se espera que sea adoptado en un futuro próximo. Además de eso, ha impulsado esfuerzos para trabajar con los EE. UU. y otros socios internacionales en un Código de conducta de IA para ayudar a cerrar las brechas legislativas internacionales a medida que diferentes países trabajan en sus propios regímenes de gobernanza de la IA.
Pero la estrategia de gobernanza de la IA de la UE también implica algunas ventajas, en forma de acceso a computación de alto rendimiento para nuevas empresas de IA “responsables”.
Un portavoz de la Comisión confirmó que el plan centrado en las empresas emergentes tiene como objetivo aprovechar la política existente que ya permite a la industria acceder a las supercomputadoras (a través de un proceso de convocatorias de propuestas de acceso EuroHPC), con «una nueva iniciativa para facilitar y apoyar el acceso a la capacidad europea de supercomputadoras para empresas emergentes de IA éticas y responsables”.
La iniciativa de acceso a HPC para nuevas empresas de IA fue anunciada hoy por la presidenta de la UE, Ursula von der Leyen, durante el discurso anual sobre el «Estado de la Unión».
Advertencia de riesgo de extinción
Durante el discurso, el presidente de la UE también se tomó un tiempo para señalar las preocupaciones planteadas por ciertos rincones de la industria tecnológica acerca de que la IA representa un riesgo de extinción para la humanidad, advirtiendo que la tecnología «se está moviendo más rápido de lo que incluso sus desarrolladores anticiparon»; y utilizar eso como trampolín para argumentar: «Tenemos una ventana de oportunidad cada vez más estrecha para guiar esta tecnología de manera responsable».
“[AI] mejorará la atención sanitaria, aumentará la productividad y abordará el cambio climático. Pero tampoco debemos subestimar las amenazas muy reales”, sugirió. “Cientos de destacados desarrolladores, académicos y expertos en IA advirtieron recientemente con las siguientes palabras, y cito: “Mitigar el riesgo de extinción de la IA debería ser una prioridad global junto con otros riesgos a escala social, como las pandemias y la guerra nuclear”.
Continuó promoviendo los esfuerzos de la UE para aprobar una legislación integral sobre la gobernanza de la IA y planteó la idea de establecer un “organismo similar” al IPCC Apoyar a los responsables políticos de todo el mundo con investigaciones y sesiones informativas sobre los últimos avances científicos. riesgos asociados a la IA, asumiendo, presumiblemente, las preocupaciones existenciales antes mencionadas.
«Creo que Europa, junto con sus socios, debería liderar el camino hacia un nuevo marco global para la IA, construido sobre tres pilares: barreras de seguridad, gobernanza y guía de la innovación», afirmó, y afirmó: «Nuestra Ley de IA ya es un modelo para todo el mundo». mundo. Ahora debemos centrarnos en adoptar las normas lo antes posible y pasar a la implementación”.
Ampliando la estrategia más amplia de la UE para la gobernanza de la IA, sugirió: “[W]También deberíamos unir fuerzas con nuestros socios para garantizar un enfoque global para comprender el impacto de la IA en nuestras sociedades. Piense en la invaluable contribución del IPCC para el clima, un panel global que brinda los últimos avances científicos a los formuladores de políticas.
“Creo que necesitamos un organismo similar para la IA, sobre los riesgos y sus beneficios para la humanidad. Con científicos, empresas tecnológicas y expertos independientes alrededor de la mesa. Esto nos permitirá desarrollar una respuesta rápida y coordinada globalmente, basándose en el trabajo realizado por la [G7] Proceso de Hiroshima y otros”.
La invocación por parte de Von der Leyen de (posibles) riesgos existenciales de la IA parece notable, ya que el enfoque de la UE en la seguridad de la IA se ha dirigido, hasta la fecha, a considerar cómo reducir los riesgos menos teóricos que surgen de la automatización, como los relacionados con la seguridad física; problemas de prejuicios, discriminación y desinformación; cuestiones de responsabilidad, etc.
La startup de seguridad de IA con sede en Londres, Conjecture, estuvo entre las que acogieron con satisfacción la intervención de alto nivel sobre el riesgo existencial de la IA.
«Es fantástico ver que Ursula von der Leyen, presidenta de la Comisión, reconoció hoy que la IA constituye un riesgo de extinción, como han admitido oficialmente incluso los directores ejecutivos de las empresas que desarrollan los modelos de IA más grandes», Andrea Miotti, su jefa de estrategia y gobernanza, dijo a TechCrunch.
“Con todo lo que está en juego, el enfoque no puede ser enfrentar a geografías entre sí para ganar algo de ‘competitividad’; está deteniendo la proliferación y aplanando la curva de aumento de capacidades”.
La UE impulsa una IA ‘responsable’
En cuanto al tercer pilar, guiar la innovación, el discurso de von der Leyen siguió el plan para ampliar el acceso a las supercomputadoras HPC del bloque a las nuevas empresas de inteligencia artificial para el entrenamiento de modelos, diciendo que seguirían más esfuerzos de orientación.
Actualmente, la UE tiene ocho supercomputadoras ubicadas en todo el bloque, a menudo ubicadas en instituciones de investigación, incluida Lumi, una supercomputadora HPC prexaescala ubicada en Finlandia; MareNostrum 5, un superordenador prexaescala alojado en España; y Leonardo, una tercera supercomputadora preexaescala ubicada en Italia, con dos supercomputadoras exaescala (aún más potentes) que entrarán en funcionamiento en el futuro (también conocido como Júpiter en Alemania y Julio Verne en Francia).
«Gracias a nuestra inversión de los últimos años, Europa se ha convertido ahora en líder en supercomputación, con tres de los cinco superordenadores más potentes del mundo», señaló. “Necesitamos sacar provecho de esto. Es por eso que puedo anunciar hoy una nueva iniciativa para abrir nuestras computadoras de alto rendimiento a las empresas emergentes de inteligencia artificial para entrenar sus modelos. Pero esto será sólo una parte de nuestro trabajo para guiar la innovación. Necesitamos un diálogo abierto con quienes desarrollan e implementan la IA. Sucede en Estados Unidos, donde siete importantes empresas tecnológicas ya han acordado reglas voluntarias en materia de seguridad y confianza.
“Sucede aquí, donde trabajaremos con las empresas de IA, para que se comprometan voluntariamente con los principios de la Ley de IA antes de que entre en vigor. Ahora deberíamos aunar todo este trabajo hacia estándares globales mínimos para el uso seguro y ético de la IA”.
Los institutos científicos, la industria y la administración pública ya tienen acceso a los superordenadores EuroHPC a través del proceso de políticas de acceso antes mencionado, que les exige aplicar y justificar su necesidad (y capacidad de utilizar) “asignaciones extremadamente grandes en términos de tiempo de computación, almacenamiento de datos y y recursos de apoyo”, según el portavoz de la Comisión.
Pero dijo que esta EuroHPC JU [joint undertaking] La política de acceso se “afinará con el objetivo de tener una vía de acceso dedicada y más rápida para las pymes y las nuevas empresas de IA”.
“El criterio ético utilizado para Horizon [research] proyectos ya se utiliza para evaluar el acceso a los superordenadores EPC. En la misma vena, Este puede ser un criterio para las convocatorias de candidatos para aprovechar el acceso a HPC bajo un esquema de IA”, añadió el portavoz.
Refiriéndose al anuncio de von der Leyen en una publicación de blog en LinkedIn, Thierry Breton, comisario de Mercado Interior de la UE, también escribió: “[W]Lanzaremos la Iniciativa de puesta en marcha de IA de la UE, aprovechando uno de los mayores activos de Europa: su infraestructura informática pública de alto rendimiento. Identificaremos las empresas emergentes europeas más prometedoras en IA y les daremos acceso a nuestra capacidad de supercomputación”.
“El acceso a la infraestructura de supercomputación europea ayudará a las empresas emergentes a reducir el tiempo de capacitación para sus nuevos modelos de IA de meses o años a días o semanas. Y les ayudará a liderar el desarrollo y la ampliación de la IA de forma responsable y en línea con los valores europeos”, sugirió Breton, añadiendo que la nueva iniciativa tendría como objetivo aprovechar los esfuerzos más amplios de la Comisión para fomentar la innovación en IA, como el lanzamiento en enero. de instalaciones de prueba y experimentación para la IA; y su enfoque en el desarrollo Centros de innovación digital. También señaló el desarrollo de entornos de pruebas regulatorios en virtud de la próxima Ley de IA, y los esfuerzos para impulsar la investigación de IA a través de la Asociación europea sobre IA, datos y robótica y el Programa de investigación HorizonEurope.
Queda por ver cuánta ventaja competitiva podría tener la iniciativa de la UE para apoyar a empresas emergentes seleccionadas con HPC para la capacitación de modelos de IA. Pero es un claro esfuerzo de la UE por utilizar recursos (en demanda) para fomentar «el tipo correcto de innovación» (es decir, tecnología que esté en línea con los valores europeos).
Taller de conversación sobre gobernanza de IA
En otro anuncio, la publicación del blog de Breton revela que la UE planea potenciar un foro de discusión sobre IA existente para impulsar una gobernanza más inclusiva.
“Al desarrollar la gobernanza para la IA, debemos garantizar la participación de todos, no sólo las grandes empresas tecnológicas, sino también las empresas emergentes, las empresas que utilizan la IA en nuestros ecosistemas industriales, los consumidores, las ONG, los expertos académicos y los responsables políticos”, escribió. «Por eso convocaré en noviembre la Asamblea de la Alianza Europea de IA, que reunirá a todas estas partes interesadas».
A la luz de este anuncio, un esfuerzo reciente del gobierno del Reino Unido para presentarse como líder mundial en seguridad de la IA (al convocar una Cumbre de IA este otoño) parece tener una competencia regional en paralelo.
No está claro quién asistirá a la cumbre del Reino Unido, pero ha habido preocupación temprana El gobierno del Reino Unido no está realizando consultas tan amplias como afirman los ministros mientras programan la conferencia. La iniciativa también atrajo un respaldo rápido y efusivo de los gigantes de la IA, incluida la promesa de acceso temprano/prioritario a modelos «de frontera» para la investigación de seguridad de la IA en el Reino Unido por parte de Google DeepMind, OpenAI y Anthropic, poco después de una serie de reuniones entre los directores ejecutivos de las empresas. y el primer ministro del Reino Unido.
Por lo tanto, es posible leer la línea de Breton sobre garantizar “la participación de todos” en la gobernanza de la IA: “no sólo las grandes empresas tecnológicas, sino también las empresas emergentes, las empresas que utilizan la IA en nuestros ecosistemas industriales, los consumidores, las ONG, los expertos académicos y los responsables políticos”. – como un golpe al enfoque respaldado por las grandes tecnologías del Reino Unido. (Sin embargo, el director ejecutivo de OpenAI, Sam Altman, también se reunió con von der Leyen en junio durante su gira europea más amplia, lo que puede explicar su repentina atención al riesgo de IA de «nivel de extinción»).
Mientras tanto, la Comisión lanzó la Alianza Europea de IA en 2018, inicialmente como un foro de debate en línea, pero también con una variedad de reuniones y talleres en persona que, según la UE, ha reunido a miles de partes interesadas hasta la fecha, con la declaración intención de establecer “un diálogo político abierto sobre inteligencia artificial”. Esto incluyó dirigir el trabajo del Grupo de Expertos de Alto Nivel sobre IA, que ayudó a dar forma a la formulación de políticas de la Comisión mientras redactaba la Ley de IA.
“La Alianza AI existe desde 2019. No se ha reunido en los últimos dos años, por lo que el comisario Breton consideró oportuno convocar a la Alianza nuevamente”, nos dijo el portavoz de la Comisión. “La Asamblea de noviembre llegará en un momento importante en el proceso de adopción de la Ley de IA. Se centrará en la implementación de la Ley de IA y el Pacto de IA y en nuestros esfuerzos más amplios para promover la excelencia y la confianza en la IA”.