\n<\/p>\n
Figuras destacadas en<\/span> El desarrollo de sistemas de inteligencia artificial, incluido el CEO de OpenAI, Sam Altman, y el CEO de Google DeepMind, Demis Hassabis, han firmado una declaraci\u00f3n en la que advierten que la tecnolog\u00eda que est\u00e1n construyendo alg\u00fan d\u00eda podr\u00eda representar una amenaza existencial para la humanidad comparable a la de la guerra nuclear y las pandemias. <\/p>\n \u201cMitigar el riesgo de extinci\u00f3n de la IA deber\u00eda ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear\u201d, se lee en una declaraci\u00f3n de una oraci\u00f3n, publicada hoy por el Centro para la Seguridad de la IA, una organizaci\u00f3n sin fines de lucro. <\/p>\n Los fil\u00f3sofos han debatido durante mucho tiempo la idea de que la IA podr\u00eda volverse dif\u00edcil de controlar y, ya sea accidental o deliberadamente, destruir a la humanidad. Pero en los \u00faltimos seis meses, luego de algunos saltos sorprendentes y desconcertantes en el rendimiento de los algoritmos de IA, el tema se ha discutido mucho m\u00e1s amplia y seriamente.<\/p>\n Adem\u00e1s de Altman y Hassabis, el comunicado fue firmado por Dario Amodei, CEO de Anthropic, una startup dedicada al desarrollo de IA con enfoque en la seguridad. Otros signatarios incluyen a Geoffrey Hinton y Yoshua Bengio, dos de los tres acad\u00e9micos que recibieron el Premio Turing por su trabajo en aprendizaje profundo, la tecnolog\u00eda que sustenta los avances modernos en aprendizaje autom\u00e1tico e IA, as\u00ed como docenas de empresarios e investigadores que trabajan en IA de vanguardia. problemas.<\/p>\n \u201cLa declaraci\u00f3n es una gran iniciativa\u201d, dice Max Tegmark, profesor de f\u00edsica en el Instituto Tecnol\u00f3gico de Massachusetts y director del Instituto Future of Life, una organizaci\u00f3n sin fines de lucro enfocada en los riesgos a largo plazo que plantea la IA. En marzo, el Instituto de Tegmark public\u00f3 una carta en la que ped\u00eda una pausa de seis meses en el desarrollo de algoritmos de inteligencia artificial de vanguardia para poder evaluar los riesgos. La carta fue firmada por cientos de investigadores y ejecutivos de IA, incluido Elon Musk.<\/p>\n Tegmark dice que espera que la declaraci\u00f3n aliente a los gobiernos y al p\u00fablico en general a tomar m\u00e1s en serio los riesgos existenciales de la IA. \u201cEl resultado ideal es que la amenaza de extinci\u00f3n de la IA se generalice, lo que permitir\u00e1 a todos discutirla sin temor a las burlas\u201d, agrega.<\/p>\n Dan Hendrycks, director del Centro para la Seguridad de la IA, compar\u00f3 el momento actual de preocupaci\u00f3n por la IA con el debate entre cient\u00edficos provocado por la creaci\u00f3n de armas nucleares. \u201cNecesitamos tener las conversaciones que ten\u00edan los cient\u00edficos nucleares antes de la creaci\u00f3n de la bomba at\u00f3mica\u201d, dijo Hendrycks en una cita emitida junto con la declaraci\u00f3n de su organizaci\u00f3n. <\/p>\n El tono de alarma actual est\u00e1 vinculado a varios saltos en el rendimiento de los algoritmos de IA conocidos como modelos de lenguaje grande. Estos modelos consisten en un tipo espec\u00edfico de red neuronal artificial que se entrena en enormes cantidades de texto escrito por humanos para predecir las palabras que deben seguir a una cadena determinada. Cuando se alimentan con suficientes datos y con capacitaci\u00f3n adicional en forma de retroalimentaci\u00f3n de humanos sobre buenas y malas respuestas, estos modelos de lenguaje pueden generar texto y responder preguntas con notable elocuencia y aparente conocimiento, incluso si sus respuestas a menudo est\u00e1n plagadas de errores. <\/p>\n Estos modelos de lenguaje han demostrado ser cada vez m\u00e1s coherentes y capaces a medida que se alimentan de m\u00e1s datos y potencia inform\u00e1tica. El modelo m\u00e1s poderoso creado hasta el momento, el GPT-4 de OpenAI, puede resolver problemas complejos, incluidos los que parecen requerir algunas formas de abstracci\u00f3n y razonamiento de sentido com\u00fan.<\/p>\n<\/div>\n