La empresa detrás de Chat-GPT se fundó para hacer avanzar a la humanidad. El hecho de que Open AI persiga intereses de lucro no tiene por qué ser una mala noticia.
Sam Altman es uno de los fundadores que impuso reglas estrictas a la IA abierta. Ahora se interponen en su camino.
Son tiempos tormentosos para Open AI, el creador de Chat-GPT. El viernes, la junta despidió al director ejecutivo Sam Altman con una vaga sugerencia de que no siempre había sido honesto. Las negociaciones para el regreso de Altman comenzaron apenas un día después.
Open AI tiene una estructura empresarial especial en la que una rama con fines de lucro depende de una organización sin fines de lucro que se supone que tiene en mente el bienestar de la humanidad. El tumulto actual muestra cuán ingenuo era el idealismo de los fundadores.
La historia de Open AI comienza como un cuento de hadas. Hace ocho años, un grupo de Silicon Valley ideó un gran plan. Querían crear máquinas que fueran más inteligentes que cualquier humano y pudieran resolver todos los problemas científicos: la inteligencia artificial (IA) general.
Los fundadores vieron progreso y un mundo mejor en el horizonte. Pero también peligro. Es decir, si tales máquinas sirvieran a intereses individuales y no a la humanidad en su conjunto.
Sospechaban que cualquiera que desarrollara tales máquinas podría ganar demasiado dinero y perder de vista el interés general. eso es lo que querían prevenir. Fundaron su instituto de investigación como una organización sin fines de lucro a la que no se le permitía obtener ganancias.
Pero eso limitó la investigación. Desarrollar modelos de IA cada vez más potentes requiere una costosa potencia informática. Cuando Sam Altman, uno de los fundadores originales, se convirtió en director ejecutivo, pensó en una salida. En 2019 fundó una sucursal con fines de lucro cuyo objetivo era atraer dinero a los inversores.
El control debe permanecer en la junta directiva de la organización sin fines de lucro. El propio Altman destacó a menudo lo importante que era para la independencia poder ser despedido en cualquier momento.
Ahora queda claro lo poco que valían las palabras.
El cuento de hadas es destrozado por la realidad.
Porque ahora se ha creado Chat-GPT. Un avance que impulsó la valoración de la empresa a casi 100 mil millones de dólares en un año, para deleite del principal inversor Microsoft y de los empleados con opciones de ganancias. Reaccionaron indignados ante el despido de Altman e hicieron que la junta directiva diera marcha atrás.
Ahora Altman tiene la ventaja. Si regresa, probablemente será sólo con una nueva estructura corporativa en la que él y los inversores tengan más poder.
No está claro por qué la junta directiva quería retirarle la confianza a Sam Altman en primer lugar. Parece como si Altman priorizara los beneficios sobre la precaución y no hubiera consultado lo suficiente, lo que podría explicar la acusación velada de deshonestidad.
Se podría decir que ocurrió el evento para el que los fundadores de Open AI querían prepararse: un conflicto de intereses entre el bien común y el beneficio.
El caos actual demuestra que los documentos fundacionales idealistas no son rival para el peso del dinero. Y ésta no es una conclusión banal.
En Silicon Valley prevalecen ideas ingenuas sobre la tecnología y su control
Es importante recordar brevemente la visión para la cual se redactaron estos documentos: se trataba nada menos que de dirigir una superinteligencia hacia el bien común y el control democrático.
Pero las reglas ya están fallando ahora que la IA está obteniendo ganancias generalizadas por primera vez. ¡Qué miserables se verían si no fuera un chatbot, sino una superinteligencia que podría influir en el destino de la humanidad!
Todo esto demuestra que los visionarios tecnológicos de Silicon Valley están creando innovaciones asombrosas. Al mismo tiempo, subestiman la dinámica de poder que surge de estas innovaciones. Los argumentos que a menudo se esgrimen cuando se trata de reglas para la IA parecen tan ingenuos como las directrices de Open AI. Basta con alinear la IA con el bien de la humanidad; las empresas pueden encargarse de esto por sí mismas.
No deberíamos confiar en eso. Es necesario establecer directrices políticas dentro de las cuales los visionarios puedan expresarse de forma creativa e innovadora. Entonces no importa si en Open AI prevalece la facción empresarial o idealista. Porque el futuro de las personas y de las máquinas no depende de su discreción.