La IA se está desarrollando lo suficientemente rápido y los peligros que puede plantear son lo suficientemente claros como para que el liderazgo de OpenAI crea que el mundo necesita un organismo regulador internacional similar al que rige la energía nuclear, y rápido. Pero no demasiado rápido.
En una publicación en el blog de la empresa, el fundador de OpenAI, Sam Altman, el presidente Greg Brockman y el científico jefe Ilya Sutskever explican que el ritmo de la innovación en inteligencia artificial es tan rápido que no podemos esperar que las autoridades existentes controlen adecuadamente la tecnología.
Si bien hay una cierta cualidad de darse palmaditas en la espalda aquí, está claro para cualquier observador imparcial que la tecnología, más visiblemente en el explosivamente popular agente conversacional ChatGPT de OpenAI, representa una amenaza única, así como un activo invaluable.
La publicación, por lo general bastante ligera en detalles y compromisos, admite sin embargo que la IA no se va a manejar sola:
Necesitamos cierto grado de coordinación entre los principales esfuerzos de desarrollo para garantizar que el desarrollo de la superinteligencia ocurra de una manera que nos permita mantener la seguridad y ayudar a la integración fluida de estos sistemas con la sociedad.
Es probable que eventualmente necesitemos algo como un [International Atomic Energy Agency] para los esfuerzos de superinteligencia; cualquier esfuerzo por encima de un cierto umbral de capacidad (o recursos como computación) deberá estar sujeto a una autoridad internacional que pueda inspeccionar sistemas, requerir auditorías, probar el cumplimiento de los estándares de seguridad, imponer restricciones en los grados de implementación y niveles de seguridad, etc.
El OIEA es el organismo oficial de la ONU para la colaboración internacional en cuestiones de energía nuclear, aunque, por supuesto, al igual que otras organizaciones de este tipo, puede necesitar un golpe. Es posible que un organismo rector de IA basado en este modelo no pueda intervenir y activar a un mal actor, pero puede establecer y rastrear estándares y acuerdos internacionales, que es al menos un punto de partida.
La publicación de OpenAI señala que el seguimiento de la potencia de cómputo y el uso de energía dedicado a la investigación de IA es una de las relativamente pocas medidas objetivas que pueden y probablemente deben informarse y rastrearse. Si bien puede ser difícil decir que la IA debe o no usarse para esto o para aquello, puede ser útil decir que los recursos dedicados a ella deben, al igual que otras industrias, ser monitoreados y auditados. (Las empresas más pequeñas podrían estar exentas para no estrangular los brotes verdes de la innovación, sugirió la empresa).
El destacado investigador y crítico de IA, Timnit Gebru, dijo hoy algo similar en una entrevista con The Guardian: “A menos que haya presión externa para hacer algo diferente, las empresas no van a autorregularse simplemente. Necesitamos regulación y necesitamos algo mejor que solo un motivo de lucro”.
OpenAI ha adoptado visiblemente este último, para consternación de muchos que esperaban que estaría a la altura de su nombre, pero al menos como líder del mercado también está pidiendo una acción real en el lado de la gobernanza, más allá de audiencias como la última, donde los senadores se alinean. dar discursos de reelección que terminan en interrogantes.
Si bien la propuesta equivale a «tal vez deberíamos hacer algo», es al menos un tema de conversación en la industria e indica el apoyo de la marca y proveedor de IA más grande del mundo para hacer algo. Se necesita desesperadamente la supervisión pública, pero “todavía no sabemos cómo diseñar un mecanismo de este tipo”.
Y aunque los líderes de la compañía dicen que apoyan pisar el freno, todavía no hay planes para hacerlo, porque no quieren dejar ir el enorme potencial «para mejorar nuestras sociedades» (sin mencionar los resultados) y porque existe el riesgo de que los malos actores tengan el pie derecho en el acelerador.