\n<\/p>\n
En ese entonces, hace solo unos meses, las sutilezas de Marcus eran t\u00e9cnicas. Pero ahora que los grandes modelos de lenguaje se han convertido en un fen\u00f3meno global, su enfoque ha cambiado. El quid del nuevo mensaje de Marcus es que los chatbots de OpenAI, Google y otros son entidades peligrosas cuyos poderes conducir\u00e1n a un tsunami de informaci\u00f3n err\u00f3nea, errores de seguridad y \u00abalucinaciones\u00bb difamatorias que automatizar\u00e1n las calumnias. Esto parece cortejar una contradicci\u00f3n. Durante a\u00f1os, Marcus hab\u00eda denunciado que las afirmaciones de los constructores de AI estaban exageradas. \u00bfPor qu\u00e9 la IA ahora es tan formidable que la sociedad ahora debe restringirla?<\/p>\n
Marcus, siempre locuaz, tiene una respuesta: \u201cS\u00ed, he dicho durante a\u00f1os que [LLMs] en realidad son bastante tontos, y todav\u00eda lo creo. Pero hay una diferencia entre el poder y la inteligencia. Y de repente les estamos dando mucho poder\u201d. En febrero se dio cuenta de que la situaci\u00f3n era lo suficientemente alarmante como para dedicar la mayor parte de su energ\u00eda a abordar el problema. Eventualmente, dice, le gustar\u00eda dirigir una organizaci\u00f3n sin fines de lucro dedicada a aprovechar al m\u00e1ximo y evitar lo peor de la IA. <\/p>\n
Marcus argumenta que para contrarrestar todos los da\u00f1os y la destrucci\u00f3n potenciales, los legisladores, los gobiernos y los reguladores deben frenar el desarrollo de la IA. Junto con Elon Musk y docenas de otros cient\u00edficos, nerds de la pol\u00edtica y simplemente observadores asustados, firm\u00f3 la ahora famosa petici\u00f3n que exige una pausa de seis meses en la capacitaci\u00f3n de nuevos LLM. Pero admite que realmente no cree que una pausa como esa haga una diferencia y que firm\u00f3 principalmente para alinearse con la comunidad de cr\u00edticos de la IA. En lugar de un tiempo muerto de entrenamiento, preferir\u00eda una pausa en despliegue<\/em> nuevos modelos o iterando los actuales. Presumiblemente, esto tendr\u00eda que ser forzado en las empresas, ya que existe una competencia feroz, casi existencial, entre Microsoft y Google, con Apple, Meta, Amazon e innumerables nuevas empresas que desean ingresar al juego. <\/p>\n Marcus tiene una idea de qui\u00e9n podr\u00eda hacer cumplir la ley. \u00daltimamente ha insistido en que el mundo necesita, de inmediato, \u201cuna Agencia Internacional para la IA global, neutral y sin fines de lucro\u201d, a la que se referir\u00eda con un acr\u00f3nimo que suena como un grito (\u00a1Iaai!).<\/p>\n Como describi\u00f3 en un art\u00edculo de opini\u00f3n del que fue coautor en el Economista<\/em>, tal organismo podr\u00eda funcionar como la Agencia Internacional de Energ\u00eda At\u00f3mica, que realiza auditor\u00edas e inspecciones para identificar programas nucleares incipientes. Presumiblemente, esta agencia monitorear\u00eda los algoritmos para asegurarse de que no incluyan sesgos o promuevan informaci\u00f3n err\u00f3nea o se apoderen de las redes el\u00e9ctricas mientras no estamos mirando. Si bien parece una exageraci\u00f3n imaginar a los Estados Unidos, Europa y China trabajando juntos en esto, tal vez la amenaza de una inteligencia extraterrestre, aunque local, que derroque a nuestra especie podr\u00eda llevarlos a actuar en inter\u00e9s del Equipo Humano. \u00a1Oye, funcion\u00f3 con esa otra amenaza global, el cambio clim\u00e1tico! Oh \u2026<\/p>\n En cualquier caso, la discusi\u00f3n sobre el control de la IA ganar\u00e1 a\u00fan m\u00e1s fuerza a medida que la tecnolog\u00eda se entreteje cada vez m\u00e1s en nuestras vidas. As\u00ed que espere ver mucho m\u00e1s de Marcus y una gran cantidad de otras cabezas parlantes. Y eso no es algo malo. La discusi\u00f3n sobre qu\u00e9 hacer con la IA es saludable y necesaria, incluso si la tecnolog\u00eda de r\u00e1pido movimiento bien puede desarrollarse independientemente de las medidas que adoptemos concienzudamente y con retraso. La r\u00e1pida ascensi\u00f3n de ChatGPT a una herramienta comercial de uso m\u00faltiple, dispositivo de entretenimiento y confidente indica que, aterrador o no, queremos estas cosas. Como cualquier otro gran avance tecnol\u00f3gico, la superinteligencia parece destinada a brindarnos beneficios irresistibles, incluso cuando cambia el lugar de trabajo, nuestro consumo cultural e, inevitablemente, a nosotros.<\/p>\n<\/div>\n