\n<\/p>\n
El tecn\u00f3logo e investigador Aviv Ovadya no est\u00e1 seguro de que la IA generativa pueda ser gobernada, pero cree que la forma m\u00e1s plausible de mantenerla bajo control podr\u00eda ser confiarles a aquellos que se ver\u00e1n afectados por la IA que decidan colectivamente las formas de frenarla.<\/p>\n
Eso significa tu; significa yo Es el poder de las grandes redes de personas para resolver problemas de forma m\u00e1s r\u00e1pida y equitativa de lo que podr\u00eda hacerlo un peque\u00f1o grupo de personas por s\u00ed solo (incluso, por ejemplo, en Washington). Se basa esencialmente en la sabidur\u00eda de las multitudes, y est\u00e1 sucediendo en muchos campos, incluida la investigaci\u00f3n cient\u00edfica, los negocios, la pol\u00edtica y los movimientos sociales.<\/p>\n
En Taiw\u00e1n, por ejemplo, piratas inform\u00e1ticos con mentalidad c\u00edvica formaron en 2015 una plataforma, \u00abTaiw\u00e1n virtual\u00bb, que \u00abre\u00fane a representantes de los sectores p\u00fablico, privado y social para debatir soluciones pol\u00edticas a problemas principalmente relacionados con la econom\u00eda digital\u00bb, como se explic\u00f3. en 2019 por la ministra digital de Taiw\u00e1n, Audrey Tang en el New York Times. Desde entonces, vTaiwan, como se le conoce, ha abordado docenas de problemas \u201cbas\u00e1ndose en una combinaci\u00f3n de debate en l\u00ednea y discusiones cara a cara con las partes interesadas\u201d, escribi\u00f3 Tang en ese momento.<\/p>\n
Una iniciativa similar es la Revisi\u00f3n de la iniciativa ciudadana de Oreg\u00f3n, que se convirti\u00f3 en ley en 2011 e informa a la poblaci\u00f3n votante del estado sobre las medidas electorales a trav\u00e9s de un \u00abproceso deliberativo\u00bb impulsado por los ciudadanos. Aproximadamente 20 a 25 ciudadanos que son representativos de todo el electorado de Oreg\u00f3n se re\u00fanen para debatir los m\u00e9ritos de una iniciativa; luego escriben colectivamente una declaraci\u00f3n sobre esa iniciativa que se env\u00eda a los dem\u00e1s votantes del estado para que puedan tomar decisiones mejor informadas los d\u00edas de las elecciones.<\/p>\n
Los llamados procesos deliberativos tambi\u00e9n han ayudado con \u00e9xito a abordar problemas en Australia (pol\u00edtica de agua), Canad\u00e1 (reforma electoral), Chile (pensiones y atenci\u00f3n m\u00e9dica) y Argentina (vivienda, propiedad de la tierra), entre otros lugares.<\/p>\n
\u201cHay obst\u00e1culos para hacer que esto funcione\u201d en lo que respecta a la IA, reconoce Ovadya, afiliado al Centro Berkman Klein de Harvard y cuyo trabajo se centra cada vez m\u00e1s en los impactos de la IA en la sociedad y la democracia. \u201cPero emp\u00edricamente, esto se ha hecho en todos los continentes del mundo, en todas las escalas\u201d y \u201ccuanto m\u00e1s r\u00e1pido podamos implementar algunas de estas cosas, mejor\u201d, se\u00f1ala.<\/p>\n
Permitir que grandes secciones representativas de personas decidan sobre pautas aceptables para la IA puede sonar extra\u00f1o para algunos, tal vez incluso imposible.<\/p>\n
Sin embargo, Ovadya no es el \u00fanico que piensa que la soluci\u00f3n est\u00e1 en gran parte arraigada en la sociedad. Mira Murati, directora de tecnolog\u00eda de la destacada startup de inteligencia artificial OpenAI, dijo a la revista Time en una entrevista reciente: \u201c[W[e\u2019re a small group of people and we need a ton more input in this system and a lot more input that goes beyond the technologies\u2014 definitely regulators and governments and everyone else.\u201d<\/p>\n
Murati isn\u2019t worried that government involvement will slow innovation, or that it\u2019s too early for policymakers and regulators to get involved, she told the outlet when asked about these things. On the contrary, as OpenAI has been saying for years, the time for action is today, not tomorrow. \u201cIt\u2019s very important for everyone to start getting involved given the impact these technologies are going to have,\u201d she said.<\/p>\n
For now, OpenAI is taking a self-governing approach, instituting and revisiting guidelines for the safe use of its tech and pushing out new iterations in dribs and drabs.<\/p>\n
The European Union has meanwhile been drafting a regulatory framework \u2014 <\/span>AI Act \u2014 that\u2019s making its way through the European Parliament and aims to become a global standard. The law would assign applications of AI to three risk categories: applications and systems that create an \u201cunacceptable risk\u201d; \u201chigh-risk applications\u201d that would be subject to specific legal requirements; and applications not explicitly banned or listed as high-risk that would largely be left unregulated.<\/span><\/p>\n The U.S. Department of Commerce has also drafted a voluntary framework meant as guidance for companies, yet amazingly, there remains no regulation\u2013 zilcho \u2014 despite that it\u2019s sorely needed. (In addition to OpenAI, <\/span>tech behemoths like Microsoft and Google\u00a0 \u2014 burned by <\/span>earlier releases of their own AI that <\/span>backfired \u2014 are very publicly racing again to\u00a0roll out AI-infused products and applications. Like OpenAI, they are also trying to figure out their own tweaks and guardrails.)<\/span><\/p>\n A kind of World Wide Web consortium, an international organization created in 1994 to set standards for the World Wide Web, would seemingly make sense. Indeed, Murati told Time that\u00a0\u201c<\/span>different voices, like philosophers, social scientists, artists, and people from the humanities\u201d should be brought together to answer the many \u201cethical and philosophical questions that we need to consider.\u201d <\/span><\/p>\n Newer tools that help people vote on issues could also potentially help. Open AI CEO Sam Altman is also a cofounder, for example, of a retina-scanning company in Berlin called WorldCoin that wants to make it easy to authenticate someone\u2019s identity easily. Questions have been raised about the privacy and security implications of WorldCoin\u2019s biometric approach, but its potential applications include distributing a global universal basic income, as well as <\/span>empowering new forms of digital democracy.<\/span><\/p>\n Either way, Ovadya is busily trying to persuade all the major AI players that collective intelligence is the way to quickly create boundaries around AI while also giving them needed credibility. Take OpenAI, says Ovadya. \u201cIt\u2019s getting some flack right now from everyone,\u201d including over its perceived liberal bias. \u201cIt would be helpful [for the company] tener una respuesta realmente concreta\u201d sobre c\u00f3mo establece sus pol\u00edticas futuras.<\/p>\n Ovadya apunta de manera similar a Stability.AI, la empresa de IA de c\u00f3digo abierto cuyo director ejecutivo, Emad Mostaque, ha sugerido repetidamente que Stability es m\u00e1s democr\u00e1tico que OpenAI porque est\u00e1 disponible en todas partes, mientras que OpenAI est\u00e1 disponible solo en pa\u00edses en este momento donde puede proporcionar \u00bb acceso seguro.\u201d<\/p>\n Dice Ovadya: \u201cEmad de Stability dice que est\u00e1 ‘democratizando la IA’. Bien, \u00bfNo ser\u00eda bueno usar procesos democr\u00e1ticos para descubrir qu\u00e9 es lo que la gente realmente quiere?\u201d.<\/span><\/p>\n<\/p><\/div>\n