El miércoles, el primer ministro del Reino Unido, Rishi Sunak, anunció que la nación albergará «la primera gran cumbre mundial sobre seguridad de la IA» este otoño. Espera reunir a «países clave, empresas tecnológicas líderes e investigadores» para evaluar y monitorear los riesgos de la inteligencia artificial.
Durante el año pasado, la alta tasa percibida de progreso tecnológico en el aprendizaje automático ha generado preocupaciones sobre la regulación gubernamental adecuada. Estas preocupaciones fueron amplificadas recientemente por algunos expertos en IA que compararon las amenazas potenciales que plantea la IA con las de las pandemias o las armas nucleares. «IA» también ha sido un término extremadamente popular en los negocios recientemente. En ese sentido, el gobierno del Reino Unido quiere intervenir y asumir un papel de liderazgo en el campo.
«Los avances de la IA continúan mejorando nuestras vidas, desde permitir que las personas paralizadas caminen hasta descubrir antibióticos que matan superbacterias», dijo el gobierno del Reino Unido en un comunicado de prensa. «Pero el desarrollo de la IA avanza extraordinariamente rápido y este ritmo de cambio requiere un liderazgo ágil. Es por eso que el Reino Unido está tomando medidas, porque tenemos el deber global de garantizar que esta tecnología se desarrolle y adopte de manera segura y responsable».
El comunicado de prensa algo vago no especificó una fecha, formato organizativo o lugar para la cumbre.
En el período previo a la cumbre prospectiva, Sunak conversó recientemente con varios líderes de la industria, incluidos los directores ejecutivos de laboratorios de IA como OpenAI, DeepMind y Anthropic. El Reino Unido dice que el próximo evento se basará en las discusiones recientes sobre la seguridad de la IA celebradas en el G7, la OCDE y la Asociación Global sobre IA. Además, la primera sesión informativa del Consejo de Seguridad de la ONU sobre el impacto de la IA en la paz y la seguridad internacionales está prevista para julio.
«Ningún país puede hacer esto solo», dijo Sunak en el comunicado de prensa. «Esto va a requerir un esfuerzo global. Pero con nuestra vasta experiencia y compromiso con un sistema internacional abierto y democrático, el Reino Unido se unirá a nuestros aliados para liderar el camino».
¿Quién será invitado?
En el anuncio de la cumbre, el gobierno del Reino Unido no reveló formalmente una lista de invitados. Pero el comunicado de prensa habla con entusiasmo de las empresas OpenAI, DeepMind, Anthropic, Palantir, Microsoft y Facultad como ejemplos de empresas adyacentes al aprendizaje automático que tienen oficinas en el Reino Unido. También cita a ejecutivos de estas empresas, incluido Alexander Karp, cofundador y director ejecutivo de Palantir:
«Estamos orgullosos de extender nuestra asociación con el Reino Unido, donde empleamos a casi una cuarta parte de nuestra fuerza laboral global. Londres es un imán para los mejores talentos de ingeniería de software del mundo, y es la elección natural como el centro de nuestra Europa. esfuerzos para desarrollar las soluciones de software de inteligencia artificial más efectivas y éticas disponibles».
Esta lista de posibles participantes en la cumbre ya ha recibido críticas de algunos sectores. Rachel Coldicutt, que dirige la consultora de investigación de justicia social y equidad con sede en Londres Careful Industries, tuiteó«Este comunicado de prensa para la Cumbre de seguridad de IA del Reino Unido presenta a DeepMind, Anthropic, Palantir, Microsoft y la facultad y no una sola voz de la sociedad civil o la academia, y nadie con experiencia vivida de daños algorítmicos».
De las empresas mencionadas, Palantir, en particular, ha sido objeto de controversia, ya que sus estrechos vínculos con los sectores militar y de defensa plantean dudas sobre el posible uso indebido de la IA. La tecnología de la compañía se ha implementado en la aplicación de la ley y la vigilancia, lo que genera preocupaciones sobre la privacidad y las libertades civiles.
La Dra. Sasha Luccioni de Hugging Face expresó preocupaciones similares en Twitter: «La ‘primera gran cumbre mundial sobre seguridad de la IA’ con empresas como Palantir (militar/defensa) y DeepMind (X-risk/AGI), muy prometedora para abordar los riesgos reales y actuales de la IA (como su uso en el ejército) .» Su sarcasmo subraya la desconexión percibida entre los objetivos de seguridad proclamados de la cumbre y las actividades de algunas de las empresas promocionadas en el anuncio.
Después de varias cartas de advertencia sobre el riesgo de la IA este año de grandes nombres en tecnología, la «seguridad de la IA» se ha convertido en un tema delicado, con mucho debate sobre si los sistemas de aprendizaje automático representan un riesgo existencial para la humanidad. Simultáneamente, los defensores de la ética de la IA como Luccioni, a quien hemos entrevistado anteriormente sobre este tema, sienten que no se está prestando suficiente atención a las aplicaciones dañinas de la IA que ya existen en la actualidad.
Si bien el gobierno del Reino Unido enfatiza los puntos de conversación populares sobre el riesgo de la IA en su comunicado de prensa, estas críticas de los defensores de la ética de la IA destacan una creciente demanda de perspectivas más integrales y diversas en los eventos que buscan elaborar una regulación gubernamental sobre la IA. La comunidad global de IA sin duda estará observando de cerca para ver si el evento organizado en el Reino Unido puede ofrecer una discusión inclusiva y productiva sobre los riesgos de la IA que va más allá de lo habitual. sesiones de fotos con los nuevos titanes de la industria.