\n<\/p>\n
En una carta abierta, investigadores e intelectuales argumentan que lleva tiempo que la sociedad sea capaz de reaccionar con sensatez ante la inteligencia artificial.<\/p>\n<\/p><\/div>\n<\/div>\n
<\/p>\n NTB \/ X02351<\/span><\/p>\n<\/div>\n<\/figcaption><\/figure>\n <\/p>\n En las \u00faltimas semanas y meses, las noticias sobre programas que pueden hacer cada vez m\u00e1s con la ayuda de la inteligencia artificial (IA) se han ido acumulando. Ya es posible crear fotos realistas de cosas con solo presionar un bot\u00f3n, eso nunca ocurri\u00f3<\/a> \u2013 y art\u00edculos period\u00edsticos coincidentes e informes de campo.<\/p>\n <\/p>\n Apenas los m\u00e1s curiosos han probado el chatbot Chat-GPT, el fabricante Open AI ya lanza el modelo sucesor GPT-4<\/a>que tambi\u00e9n puede tratar con im\u00e1genes y responde preguntas de prueba en todas las \u00e1reas posibles tan bien como personas t\u00e9cnicamente experimentadas.<\/p>\n <\/p>\n competidores como Google<\/a> o el chino Baidu<\/a> est\u00e1n bajo presi\u00f3n para mostrar lo que est\u00e1n haciendo sus programas. Los desarrolladores de nuevas empresas y corporaciones de todo el mundo est\u00e1n en una carrera para crear el software m\u00e1s impresionante.<\/p>\n <\/p>\n El empresario tecnol\u00f3gico Elon Musk, el historiador Yuval Noah Harari, el investigador b\u00e1sico de IA Yoshua Bengio, junto con muchos otros intelectuales, empresarios y expertos en la materia de renombre, ahora han escribi\u00f3 una carta abierta<\/a>en el que piden una pausa en esta misma carrera.<\/p>\n <\/p>\n <\/p>\n \u201cHacemos un llamado a todos los laboratorios de IA para que dejen de entrenar sistemas de IA m\u00e1s potentes que GPT-4 de inmediato y durante al menos seis meses\u201d, se lee en el subt\u00edtulo de la carta. Si los actores no cumplen con la pausa ellos mismos, entonces los gobiernos deber\u00edan intervenir y hacerla cumplir, dice a continuaci\u00f3n.<\/p>\n <\/p>\n Ahora, Elon Musk no es exactamente conocido por pedir la interferencia del gobierno en la innovaci\u00f3n tecnol\u00f3gica. Entonces, \u00bfpor qu\u00e9 esta llamada ahora?<\/p>\n <\/p>\n Los signatarios argumentan que los sistemas de IA conllevan grandes riesgos que requieren planificaci\u00f3n y gesti\u00f3n. Pero eso es exactamente lo que ha estado faltando en los \u00faltimos meses, mientras los laboratorios de IA han desarrollado sistemas que incluso sus desarrolladores \u00abno pueden entender, predecir y controlar de manera confiable\u00bb.<\/p>\n <\/p>\n \u00abDeber\u00edamos preguntarnos: Deber\u00eda<\/em> \u00bfDejar que las m\u00e1quinas inunden nuestros canales de informaci\u00f3n con propaganda y falsedades? Deber\u00eda<\/em> \u00bfAutomatizamos todos los trabajos, incluidos los de cumplimiento? Deber\u00eda<\/em> desarrollamos mentes no humanas que terminan super\u00e1ndonos en n\u00famero y m\u00e1s inteligentes que nosotros, haci\u00e9ndonos obsoletos y reemplaz\u00e1ndonos? Deber\u00eda<\/em> corremos el riesgo de perder el control de nuestra civilizaci\u00f3n? Estas decisiones no deben dejarse en manos de l\u00edderes tecnol\u00f3gicos no elegidos\u201d, escriben los autores.<\/p>\n <\/p>\n Proponen una pausa de seis meses para experimentos de IA a gran escala, durante los cuales los \u00ablaboratorios de IA y expertos independientes\u00bb deber\u00edan desarrollar protocolos de seguridad. Los firmantes enfatizan que esta pausa no debe detener toda innovaci\u00f3n en el campo de la IA, al contrario. Pero en lugar de desarrollar modelos con cada vez m\u00e1s potencia inform\u00e1tica, como Open AI con GPT-4, la investigaci\u00f3n deber\u00eda centrarse en hacer que los sistemas actuales sean m\u00e1s seguros, m\u00e1s precisos, m\u00e1s transparentes y m\u00e1s robustos.<\/p>\n <\/p>\n Al mismo tiempo, los desarrolladores de IA deber\u00edan trabajar con las agencias gubernamentales para desarrollar un r\u00e9gimen regulatorio de IA. La carta enumera los puntos espec\u00edficos que debe contener dicho sistema. Estos incluyen autoridades de IA dedicadas, marcas de agua que distinguen el texto y las im\u00e1genes generados por IA de los hechos por humanos, un sistema de certificaci\u00f3n para IA, financiaci\u00f3n p\u00fablica para la investigaci\u00f3n de seguridad de IA e \u00abinstituciones con buenos recursos que ayudan a lidiar con las dram\u00e1ticas perturbaciones econ\u00f3micas y pol\u00edticas\u00bb. que la IA provocar\u00e1\u00bb.<\/p>\n <\/p>\n Armada de esta manera, la humanidad puede esperar un futuro pr\u00f3spero con IA, en el que la sociedad tendr\u00e1 tiempo suficiente para adaptarse. Como modelo, los autores citan tecnolog\u00edas que se han detenido debido a consecuencias potencialmente catastr\u00f3ficas para la sociedad: clonaci\u00f3n, modificaci\u00f3n de genes humanos, investigaci\u00f3n peligrosa sobre virus y eugenesia.<\/p>\n <\/p>\n <\/p>\n Los investigadores y desarrolladores est\u00e1n discutiendo la publicaci\u00f3n en l\u00ednea con opiniones divididas. Muchos apoyan la idea b\u00e1sica de que la inteligencia artificial necesita reglas. Es controvertido si una interrupci\u00f3n en el desarrollo es la forma correcta de hacerlo. Eso podr\u00eda dar a aquellos que no cumplen una ventaja injusta, dice un argumento com\u00fan.<\/p>\n <\/p>\n Otras voces critican partes de la redacci\u00f3n de la carta: aumentar\u00edan la exageraci\u00f3n sobre la IA. El ling\u00fcista computacional emily dobladora<\/a> por ejemplo, cuya investigaci\u00f3n sobre los problemas de los grandes modelos de lenguaje se cita en la parte superior de la carta abierta, critic\u00f3 Gorjeo<\/a> entre otras cosas, el encuadre de que los laboratorios de IA est\u00e1n en proceso de desarrollar una \u00abmente digital\u00bb. O la afirmaci\u00f3n de que los sistemas de IA son tan buenos como los humanos en tareas generales.<\/p>\n <\/p>\n Ella llama a los pol\u00edticos a no escuchar las \u00abfantas\u00edas de los tech bros\u00bb sino a \u00abaquellos que estudian c\u00f3mo las corporaciones (y los estados) usan la tecnolog\u00eda (y las narrativas sobre la IA) para ganar y concentrar el poder\u00bb. A pesar de todas las cr\u00edticas, Bender est\u00e1 de acuerdo con muchas de las propuestas concretas de acci\u00f3n.<\/p>\n <\/p>\n En general, la comunidad tecnol\u00f3gica parece estar de acuerdo en que la velocidad de los desarrollos actuales es asombrosa. Lo que es exactamente amenazante, ya sea el desempleo masivo, la discriminaci\u00f3n, la concentraci\u00f3n de poder, la desinformaci\u00f3n o una IA independiente que vuelve obsoletas a las personas, los expertos eval\u00faan de manera muy diferente.<\/p>\n <\/p>\n La cuesti\u00f3n de cu\u00e1l es la forma correcta de regulaci\u00f3n requerir\u00e1 cierta discusi\u00f3n. Por \u00faltimo, pero no menos importante, es probable que muchas personas fuera de la burbuja tecnol\u00f3gica compartan el deseo de una peque\u00f1a desaceleraci\u00f3n para poder mantenerse al d\u00eda con las innovaciones en el \u00e1rea de IA.<\/p>\n <\/p>\n <\/div>\nNo es exactamente conocido por pedir la interferencia del gobierno: el empresario y firmante de cartas Elon Musk.<\/h2>\n
No deje las grandes decisiones a los gerentes de tecnolog\u00eda<\/span><\/h2>\n
Acuerdo comparativamente grande entre los expertos<\/span><\/h2>\n