\n<\/p>\n
Es de suponer que incluso el algoritmo de inteligencia artificial m\u00e1s inteligente y astuto tendr\u00e1 que obedecer las leyes del silicio. Sus capacidades estar\u00e1n limitadas por el hardware en el que se ejecuta.<\/p>\n
Algunos investigadores est\u00e1n explorando formas de explotar esa conexi\u00f3n para limitar el potencial de los sistemas de inteligencia artificial de causar da\u00f1o. La idea es codificar reglas que rigen el entrenamiento y la implementaci\u00f3n de algoritmos avanzados directamente en los chips de computadora necesarios para ejecutarlos.<\/p>\n
En teor\u00eda, la esfera donde actualmente reside gran parte del debate sobre la IA peligrosamente poderosa, esto podr\u00eda proporcionar una nueva y poderosa forma de evitar que naciones rebeldes o empresas irresponsables desarrollen en secreto IA peligrosa. Y uno m\u00e1s dif\u00edcil de evadir que las leyes o tratados convencionales. Un informe publicado a principios de este mes por el Center for New American Security, un influyente grupo de expertos en pol\u00edtica exterior estadounidense, describe c\u00f3mo se podr\u00eda aprovechar el silicio cuidadosamente obstaculizado para hacer cumplir una serie de controles de IA.<\/p>\n
Algunos chips ya cuentan con componentes confiables dise\u00f1ados para salvaguardar datos confidenciales o protegerlos contra el uso indebido. Los \u00faltimos iPhone, por ejemplo, mantienen la informaci\u00f3n biom\u00e9trica de una persona en un \u00abenclave seguro\u00bb. Google utiliza un chip personalizado en sus servidores en la nube para garantizar que no se haya manipulado nada.<\/p>\n
El documento sugiere aprovechar caracter\u00edsticas similares integradas en las GPU (o grabar otras nuevas en chips futuros) para evitar que los proyectos de IA accedan a m\u00e1s de una cierta cantidad de potencia inform\u00e1tica sin una licencia. Debido a que se necesita una gran potencia inform\u00e1tica para entrenar los algoritmos de IA m\u00e1s potentes, como los que est\u00e1n detr\u00e1s de ChatGPT, eso limitar\u00eda qui\u00e9n puede construir los sistemas m\u00e1s potentes.<\/p>\n
CNAS dice que las licencias podr\u00edan ser emitidas por un gobierno o un regulador internacional y actualizadas peri\u00f3dicamente, lo que har\u00eda posible cortar el acceso a la capacitaci\u00f3n en IA al rechazar una nueva. \u00abSe podr\u00edan dise\u00f1ar protocolos de modo que s\u00f3lo se pueda implementar un modelo si se ha realizado una evaluaci\u00f3n particular y se ha obtenido una puntuaci\u00f3n superior a un cierto umbral, digamos por seguridad\u00bb, dice Tim Fist, miembro de CNAS y uno de los tres autores de el papel.<\/p>\n
A algunas luminarias de la IA les preocupa que la IA se est\u00e9 volviendo tan inteligente que alg\u00fan d\u00eda pueda resultar rebelde y peligrosa. M\u00e1s inmediatamente, algunos expertos y gobiernos temen que incluso los modelos de IA existentes puedan facilitar el desarrollo de armas qu\u00edmicas o biol\u00f3gicas o automatizar el cibercrimen. Washington ya ha impuesto una serie de controles a la exportaci\u00f3n de chips de IA para limitar el acceso de China a la IA m\u00e1s avanzada, por temor a que pueda usarse con fines militares, aunque el contrabando y la ingenier\u00eda inteligente han proporcionado algunas formas de evitarlos. Nvidia no quiso hacer comentarios, pero la compa\u00f1\u00eda ha perdido miles de millones de d\u00f3lares en pedidos de China debido a los \u00faltimos controles de exportaci\u00f3n de Estados Unidos.<\/p>\n
Fist of CNAS dice que aunque las restricciones de codificaci\u00f3n en hardware inform\u00e1tico pueden parecer extremas, existe un precedente en el establecimiento de infraestructura para monitorear o controlar tecnolog\u00eda importante y hacer cumplir tratados internacionales. \u00abSi se piensa en la seguridad y la no proliferaci\u00f3n nuclear, las tecnolog\u00edas de verificaci\u00f3n fueron absolutamente claves para garantizar los tratados\u00bb, dice Fist de CNAS. \u00abLa red de sism\u00f3metros que tenemos ahora para detectar pruebas nucleares subterr\u00e1neas respalda tratados que dicen que no probaremos armas subterr\u00e1neas por encima de un cierto umbral de kilotones\u00bb.<\/p>\n
Las ideas propuestas por CNAS no son del todo te\u00f3ricas. Los importantes chips de entrenamiento de IA de Nvidia, cruciales para construir los modelos de IA m\u00e1s potentes, ya vienen con m\u00f3dulos criptogr\u00e1ficos seguros. Y en noviembre de 2023, investigadores del Future of Life Institute, una organizaci\u00f3n sin fines de lucro dedicada a proteger a la humanidad de amenazas existenciales, y Mithril Security, una startup de seguridad, crearon una demostraci\u00f3n que muestra c\u00f3mo el m\u00f3dulo de seguridad de una CPU Intel podr\u00eda usarse para una criptograf\u00eda. Esquema que puede restringir el uso no autorizado de un modelo de IA.<\/p>\n<\/div>\n