\n<\/p>\n
Desde entonces, la b\u00fasqueda de la proliferaci\u00f3n de modelos ling\u00fc\u00edsticos cada vez m\u00e1s grandes se ha acelerado, y muchos de los peligros sobre los que advertimos, como la producci\u00f3n masiva de textos de odio y desinformaci\u00f3n, contin\u00faan desarroll\u00e1ndose. Hace solo unos d\u00edas, Meta lanz\u00f3 su LLM \u00abGalactica\u00bb, que pretende \u00abresumir trabajos acad\u00e9micos, resolver problemas matem\u00e1ticos, generar art\u00edculos Wiki, escribir c\u00f3digo cient\u00edfico, anotar mol\u00e9culas y prote\u00ednas, y m\u00e1s\u00bb. Solo tres d\u00edas despu\u00e9s, la demostraci\u00f3n p\u00fablica se elimin\u00f3 despu\u00e9s de que los investigadores generaran \u00abdocumentos de investigaci\u00f3n y entradas de wiki sobre una amplia variedad de temas que van desde los beneficios de suicidarse, comer vidrio triturado y el antisemitismo, hasta por qu\u00e9 los homosexuales son malvados\u00bb.<\/p>\n
Esta carrera no se ha detenido en los LLM, sino que ha pasado a modelos de texto a imagen como DALL-E de OpenAI y Stable Diffusion de StabilityAI, modelos que toman texto como entrada y generan im\u00e1genes basadas en ese texto. Los peligros de estos modelos incluyen la creaci\u00f3n de pornograf\u00eda infantil, la perpetuaci\u00f3n de prejuicios, el refuerzo de estereotipos y la difusi\u00f3n masiva de desinformaci\u00f3n, seg\u00fan lo informado por muchos investigadores y periodistas. Sin embargo, en lugar de reducir la velocidad, las empresas est\u00e1n eliminando las pocas caracter\u00edsticas de seguridad que ten\u00edan en la b\u00fasqueda de superarse entre s\u00ed. Por ejemplo, OpenAI hab\u00eda restringido el intercambio de rostros fotorrealistas generados en las redes sociales. Pero despu\u00e9s de que nuevas empresas reci\u00e9n formadas como StabilityAI, que supuestamente recaudaron $ 101 millones con una enorme valoraci\u00f3n de $ 1 mil millones, llamaron a tales medidas de seguridad \u00abpaternalistas\u00bb, OpenAI elimin\u00f3 estas restricciones. <\/p>\n
Con los institutos, empresas, grupos de expertos y grupos de investigaci\u00f3n de EA fundando y financiando en universidades de \u00e9lite dedicadas a la marca de \u00abseguridad de IA\u00bb popularizada por OpenAI, estamos preparados para ver una mayor proliferaci\u00f3n de modelos da\u00f1inos anunciados como un paso hacia \u00abAGI beneficioso\u00bb. \u201d Y la influencia comienza temprano: los altruistas efectivos brindan \u00abbecas de desarrollo comunitario\u00bb para reclutar en los principales campus universitarios, con cap\u00edtulos de EA que desarrollan planes de estudio e imparten clases sobre seguridad de IA en universidades de \u00e9lite como Stanford.<\/p>\n
Apenas el a\u00f1o pasado, Anthropic, que se describe como una \u00abcompa\u00f1\u00eda de investigaci\u00f3n y seguridad de IA\u00bb y fue fundada por ex vicepresidentes de investigaci\u00f3n y seguridad de OpenAI, recaud\u00f3 $ 704 millones, y la mayor parte de su financiaci\u00f3n proviene de multimillonarios de EA como Talin, Muskovitz y Bankman. -Frito. Tambi\u00e9n se anuncia un pr\u00f3ximo taller sobre \u00abSeguridad de IA\u00bb en NeurIPS, una de las conferencias de aprendizaje autom\u00e1tico m\u00e1s grandes e influyentes del mundo, patrocinado por FTX Future Fund, la organizaci\u00f3n ben\u00e9fica centrada en EA de Bankman-Fried cuyo equipo renunci\u00f3 hace dos semanas. El taller anuncia $100,000 en \u201cpremios al mejor art\u00edculo\u201d, una cantidad que no he visto en ninguna disciplina acad\u00e9mica. <\/p>\n
Las prioridades de investigaci\u00f3n siguen a la financiaci\u00f3n, y dadas las grandes sumas de dinero que se inyectan en IA en apoyo de una ideolog\u00eda con adherentes multimillonarios, no sorprende que el campo se haya estado moviendo en una direcci\u00f3n que promete un \u00abinimaginablemente gran futuro\u00bb a la vuelta de la esquina mientras la proliferaci\u00f3n de productos que da\u00f1an a los grupos marginados en el ahora. <\/p>\n
Podemos crear un futuro tecnol\u00f3gico que nos sirva a nosotros. Tomemos, por ejemplo, Te Hiku Media, que cre\u00f3 tecnolog\u00eda ling\u00fc\u00edstica para revitalizar te reo M\u0101ori, creando una licencia de datos \u201cbasada en el principio maor\u00ed de kaitiakitanga<\/em>, o tutela\u201d para que cualquier dato tomado de los maor\u00edes los beneficie primero. Compare este enfoque con el de organizaciones como StabilityAI, que raspa las obras de los artistas sin su consentimiento o atribuci\u00f3n mientras pretende construir \u00abIA para la gente\u00bb. Necesitamos liberar nuestra imaginaci\u00f3n de la que nos han vendido hasta ahora: salvarnos de un hipot\u00e9tico apocalipsis AGI imaginado por unos pocos privilegiados, o de la siempre esquiva tecno-utop\u00eda que nos prometen las \u00e9lites de Silicon Valley. <\/p>\n<\/div>\n