\n<\/p>\n
Cada vez que usted<\/span> publique una foto, responda en las redes sociales, cree un sitio web o posiblemente incluso env\u00ede un correo electr\u00f3nico, sus datos se extraen, almacenan y utilizan para entrenar la tecnolog\u00eda de IA generativa que puede crear texto, audio, video e im\u00e1genes con solo unas pocas palabras . Esto tiene consecuencias reales: los investigadores de OpenAI que estudian el impacto de sus modelos de lenguaje en el mercado laboral estimaron que aproximadamente el 80 por ciento de la fuerza laboral de los EE. alrededor del 19 por ciento de los trabajadores pueden ver al menos la mitad de sus tareas afectadas. Tambi\u00e9n estamos viendo un cambio inmediato en el mercado laboral con la generaci\u00f3n de im\u00e1genes. En otras palabras, los datos que cre\u00f3 pueden dejarlo sin trabajo.<\/p>\n Cuando una empresa construye su tecnolog\u00eda sobre un recurso p\u00fablico, Internet, es sensato decir que esa tecnolog\u00eda debe estar disponible y abierta para todos. Pero los cr\u00edticos han se\u00f1alado que GPT-4 carec\u00eda de informaci\u00f3n o especificaciones claras que permitieran a cualquier persona ajena a la organizaci\u00f3n replicar, probar o verificar cualquier aspecto del modelo. Algunas de estas empresas han recibido grandes sumas de fondos de otras corporaciones importantes para crear productos comerciales. Para algunos en la comunidad de IA, esta es una se\u00f1al peligrosa de que estas empresas van a buscar ganancias por encima del beneficio p\u00fablico.<\/p>\n Es poco probable que la transparencia del c\u00f3digo por s\u00ed sola garantice que estos modelos generativos de IA sirvan al bien p\u00fablico. Hay pocos beneficios inmediatos concebibles para un periodista, analista de pol\u00edticas o contador (todas profesiones de \u00abalta exposici\u00f3n\u00bb seg\u00fan el estudio de OpenAI) si los datos que sustentan un LLM est\u00e1n disponibles. Tenemos cada vez m\u00e1s leyes, como la Ley de Servicios Digitales, que requerir\u00edan que algunas de estas empresas abran su c\u00f3digo y datos para la revisi\u00f3n de un auditor experto. Y el c\u00f3digo fuente abierto a veces puede permitir a los actores malintencionados, lo que permite a los piratas inform\u00e1ticos subvertir las precauciones de seguridad que las empresas est\u00e1n implementando. La transparencia es un objetivo loable, pero eso por s\u00ed solo no garantizar\u00e1 que la IA generativa se utilice para mejorar la sociedad.<\/p>\n Para crear realmente un beneficio p\u00fablico, necesitamos mecanismos de rendici\u00f3n de cuentas. El mundo necesita un organismo de gobernanza global de IA generativa para resolver estas perturbaciones sociales, econ\u00f3micas y pol\u00edticas m\u00e1s all\u00e1 de lo que cualquier gobierno individual es capaz de hacer, lo que cualquier grupo acad\u00e9mico o de la sociedad civil puede implementar, o cualquier corporaci\u00f3n est\u00e1 dispuesta o es capaz de hacer. Ya existe un precedente de cooperaci\u00f3n global por parte de empresas y pa\u00edses para hacerse responsables de los resultados tecnol\u00f3gicos. Tenemos ejemplos de organizaciones y grupos de expertos independientes y bien financiados que pueden tomar decisiones en nombre del bien p\u00fablico. Una entidad como esta tiene la tarea de pensar en los beneficios para la humanidad. Construyamos sobre estas ideas para abordar los problemas fundamentales que la IA generativa ya est\u00e1 surgiendo.<\/p>\n En la era de la proliferaci\u00f3n nuclear despu\u00e9s de la Segunda Guerra Mundial, por ejemplo, exist\u00eda un temor cre\u00edble y significativo de que las tecnolog\u00edas nucleares se descontrolaran. La creencia generalizada de que la sociedad ten\u00eda que actuar colectivamente para evitar un desastre global se hace eco de muchas de las discusiones actuales en torno a los modelos generativos de IA. En respuesta, pa\u00edses de todo el mundo, encabezados por EE. UU. y bajo la gu\u00eda de las Naciones Unidas, se reunieron para formar la Agencia Internacional de Energ\u00eda At\u00f3mica (OIEA), un organismo independiente libre de afiliaciones gubernamentales y corporativas que brindar\u00eda soluciones a los problemas m\u00e1s lejanos. llegando a las ramificaciones y capacidades aparentemente infinitas de las tecnolog\u00edas nucleares. Opera en tres \u00e1reas principales: energ\u00eda nuclear, seguridad tecnol\u00f3gica y f\u00edsica nuclear y salvaguardias. Por ejemplo, despu\u00e9s del desastre de Fukushima en 2011, proporcion\u00f3 recursos cr\u00edticos, educaci\u00f3n, pruebas e informes de impacto, y ayud\u00f3 a garantizar la seguridad nuclear continua. Sin embargo, la agencia es limitada: depende de los estados miembros para cumplir voluntariamente con sus normas y directrices, y de su cooperaci\u00f3n y asistencia para llevar a cabo su misi\u00f3n.<\/p>\n En tecnolog\u00eda, la Junta de Supervisi\u00f3n de Facebook es un intento pr\u00e1ctico de equilibrar la transparencia con la responsabilidad. Los miembros de la Junta son un grupo global interdisciplinario y sus juicios, como revocar una decisi\u00f3n tomada por Facebook de eliminar una publicaci\u00f3n que mostraba acoso sexual en la India, son vinculantes. Este modelo tampoco es perfecto; hay acusaciones de captura corporativa, ya que la junta est\u00e1 financiada \u00fanicamente por Meta, solo puede escuchar casos a los que se refiere el propio Facebook y se limita a eliminar contenido, en lugar de abordar problemas m\u00e1s sist\u00e9micos como algoritmos o pol\u00edticas de moderaci\u00f3n.<\/p>\n<\/div>\n