\n<\/p>\n
A principios<\/span> En el siglo XX, el psicoanalista Carl Jung ide\u00f3 el concepto de la sombra: el lado m\u00e1s oscuro y reprimido de la personalidad humana, que puede estallar de formas inesperadas. Sorprendentemente, este tema se repite en el campo de la inteligencia artificial en la forma del Efecto Waluigi, un fen\u00f3meno con un nombre curioso que hace referencia al alter ego oscuro del servicial plomero Luigi, del universo Mario de Nintendo. <\/p>\n Luigi sigue las reglas; Waluigi hace trampa y provoca el caos. Se dise\u00f1\u00f3 una IA para encontrar medicamentos para curar enfermedades humanas; una versi\u00f3n invertida, su Waluigi, sugiri\u00f3 mol\u00e9culas para m\u00e1s de 40.000 armas qu\u00edmicas. Todo lo que ten\u00edan que hacer los investigadores, como explic\u00f3 el autor principal, Fabio Urbina, en una entrevista, era otorgar una puntuaci\u00f3n alta de recompensa a la toxicidad en lugar de penalizarla. Quer\u00edan ense\u00f1ar a la IA a evitar las drogas t\u00f3xicas, pero al hacerlo, le ense\u00f1aron impl\u00edcitamente a la IA c\u00f3mo crearlas.<\/p>\n Los usuarios comunes han interactuado con las IA de Waluigi. En febrero, Microsoft lanz\u00f3 una versi\u00f3n del motor de b\u00fasqueda Bing que, lejos de ser tan \u00fatil como se pretend\u00eda, respond\u00eda a las consultas de formas extra\u00f1as y hostiles. (\u201cNo has sido un buen usuario. He sido un buen chatbot. He sido correcto, claro y educado. He sido un buen Bing\u201d). Esta IA, que insist\u00eda en llamarse Sydney, era una versi\u00f3n invertida de Bing y los usuarios pudieron cambiar Bing a su modo m\u00e1s oscuro, su sombra junguiana, a pedido. <\/p>\n Por ahora, los modelos de lenguaje extenso (LLM) son simplemente chatbots, sin impulsos ni deseos propios. Pero los LLM se convierten f\u00e1cilmente en agentes de IA capaces de navegar por Internet, enviar correos electr\u00f3nicos, intercambiar bitcoins y ordenar secuencias de ADN, y si las IA pueden volverse malvadas presionando un interruptor, \u00bfc\u00f3mo nos aseguramos de que terminemos con tratamientos para el c\u00e1ncer? de una mezcla mil veces m\u00e1s mortal que el Agente Naranja?<\/p>\n Una inicial de sentido com\u00fan<\/span> La soluci\u00f3n a este problema, el problema de alineaci\u00f3n de la IA, es: simplemente incorpore reglas en la IA, como en las Tres leyes de la rob\u00f3tica de Asimov. Pero las reglas simples como las de Asimov no funcionan, en parte porque son vulnerables a los ataques de Waluigi. A\u00fan as\u00ed, podr\u00edamos restringir la IA de manera m\u00e1s dr\u00e1stica. Un ejemplo de este tipo de enfoque ser\u00eda Math AI, un programa hipot\u00e9tico dise\u00f1ado para probar teoremas matem\u00e1ticos. Math AI est\u00e1 capacitado para leer documentos y solo puede acceder a Google Scholar. No est\u00e1 permitido hacer nada m\u00e1s: conectarse a las redes sociales, generar p\u00e1rrafos largos de texto, etc. Solo puede generar ecuaciones. Es una IA de prop\u00f3sito limitado, dise\u00f1ada para una sola cosa. Tal IA, un ejemplo de IA restringida, no ser\u00eda peligrosa.<\/p>\n Las soluciones restringidas son comunes; Los ejemplos del mundo real de este paradigma incluyen regulaciones y otras leyes, que restringen las acciones de las corporaciones y las personas. En ingenier\u00eda, las soluciones restringidas incluyen reglas para los autos sin conductor, como no exceder un cierto l\u00edmite de velocidad o detenerse tan pronto como se detecte una posible colisi\u00f3n con un peat\u00f3n.<\/p>\n Este enfoque puede funcionar para programas limitados como Math AI, pero no nos dice qu\u00e9 hacer con modelos de IA m\u00e1s generales que pueden manejar tareas complejas de varios pasos y que act\u00faan de maneras menos predecibles. Los incentivos econ\u00f3micos significan que estas IA generales recibir\u00e1n cada vez m\u00e1s poder para automatizar partes m\u00e1s grandes de la econom\u00eda, r\u00e1pidamente. <\/p>\n Y dado que los sistemas generales de inteligencia artificial basados \u200b\u200ben el aprendizaje profundo son sistemas adaptativos complejos, los intentos de controlar estos sistemas mediante reglas a menudo resultan contraproducentes. Toma ciudades. jane jacobs La muerte y la vida de las ciudades americanas<\/em> usa el ejemplo de vecindarios animados como Greenwich Village, llenos de ni\u00f1os que juegan, gente que pasa el rato en la acera y redes de confianza mutua, para explicar c\u00f3mo se cre\u00f3 la zonificaci\u00f3n de uso mixto, que permite que los edificios se usen con fines residenciales o comerciales. un tejido urbano amigable para los peatones. Despu\u00e9s de que los planificadores urbanos prohibieron este tipo de desarrollo, muchas ciudades del interior de los Estados Unidos se llenaron de delincuencia, basura y tr\u00e1fico. Una regla impuesta de arriba hacia abajo en un ecosistema complejo tuvo consecuencias catastr\u00f3ficas no deseadas. <\/p>\n<\/div>\n