\n<\/p>\n
En junio tuve una conversaci\u00f3n con el cient\u00edfico jefe Ilya Sutskever en la sede de OpenAI, mientras informaba sobre el art\u00edculo de portada de octubre de WIRED. Entre los temas que discutimos estuvo la estructura inusual de la empresa.<\/p>\n
OpenAI comenz\u00f3 como un laboratorio de investigaci\u00f3n sin fines de lucro cuya misi\u00f3n era desarrollar inteligencia artificial a la par o m\u00e1s all\u00e1 del nivel humano (llamada inteligencia artificial general o AGI) de manera segura. La compa\u00f1\u00eda descubri\u00f3 un camino prometedor en grandes modelos de lenguaje que generan texto sorprendentemente fluido, pero desarrollar e implementar esos modelos requiri\u00f3 enormes cantidades de infraestructura inform\u00e1tica y monta\u00f1as de dinero en efectivo. Esto llev\u00f3 a OpenAI a crear una entidad comercial para atraer inversores externos y consigui\u00f3 un socio importante: Microsoft. Pr\u00e1cticamente todos en la empresa trabajaron para esta nueva rama con fines de lucro. Pero se pusieron l\u00edmites a la vida comercial de la empresa. Las ganancias entregadas a los inversores deb\u00edan tener un l\u00edmite (para los primeros patrocinadores a 100 veces lo que hab\u00edan aportado), despu\u00e9s de lo cual OpenAI volver\u00eda a ser una organizaci\u00f3n puramente sin fines de lucro. Todo el asunto estaba gobernado por la junta directiva original de la organizaci\u00f3n sin fines de lucro, que respond\u00eda s\u00f3lo a los objetivos de la misi\u00f3n original y tal vez a Dios.<\/p>\n
Sutskever no apreci\u00f3 cuando brome\u00e9 diciendo que el extra\u00f1o organigrama que trazaba esta relaci\u00f3n parec\u00eda algo que un futuro GPT podr\u00eda idear cuando se le pidiera que dise\u00f1ara una evasi\u00f3n fiscal. \u00abSomos la \u00fanica empresa en el mundo que tiene una estructura de beneficios limitada\u00bb, me amonest\u00f3. \u00ab\u00c9sta es la raz\u00f3n por la que tiene sentido: si crees, como nosotros, que si tenemos mucho \u00e9xito, entonces estas GPU van a quitarme el trabajo, el tuyo y el de todos, ser\u00eda bueno que esa empresa no hiciera algo realmente bueno\u00bb. cantidades ilimitadas de retornos\u201d. Mientras tanto, para asegurarse de que la parte de la empresa que busca ganancias no eluda su compromiso de garantizar que la IA no se salga de control, existe esa junta que vigila las cosas.<\/p>\n
Este aspirante a guardi\u00e1n de la humanidad es la misma junta que despidi\u00f3 a Sam Altman el viernes pasado, diciendo que ya no ten\u00eda confianza en el CEO porque \u201cno era consistentemente sincero en sus comunicaciones con la junta, lo que obstaculizaba su capacidad para ejercer sus responsabilidades. \u00bb No se proporcionaron ejemplos de ese supuesto comportamiento y casi nadie en la empresa supo del despido hasta justo antes de que se anunciara p\u00fablicamente. El director ejecutivo de Microsoft, Satya Nadella, y otros inversores no recibieron aviso previo. Los cuatro directores, que representan la mayor\u00eda de la junta de seis personas, tambi\u00e9n expulsaron de la junta al presidente y presidente de OpenAI, Greg Brockman. Brockman renunci\u00f3 r\u00e1pidamente.<\/p>\n
Despu\u00e9s de hablar con alguien familiarizado con el pensamiento de la junta directiva, me parece que al despedir a Altman los directores creyeron que estaban ejecutando su misi\u00f3n de asegurarse de que la empresa desarrolle una IA potente y segura, como era su \u00fanica raz\u00f3n de existir. Aumentar las ganancias o el uso de ChatGPT, mantener la cortes\u00eda en el lugar de trabajo y mantener contentos a Microsoft y otros inversores no eran de su preocupaci\u00f3n. En opini\u00f3n de los directores Adam D’Angelo, Helen Toner y Tasha McCauley (y Sutskever), Altman no trat\u00f3 directamente con ellos. En pocas palabras: la junta ya no confiaba en Altman para llevar a cabo la misi\u00f3n de OpenAI. Si la junta no puede confiar en el director ejecutivo, \u00bfc\u00f3mo puede proteger o incluso monitorear el progreso de la misi\u00f3n?<\/p>\n
No puedo decir si la conducta de Altman realmente puso en peligro la misi\u00f3n de OpenAI, pero s\u00ed s\u00e9 esto: la junta parece haber pasado por alto la posibilidad de que una ejecuci\u00f3n mal explicada de un l\u00edder querido y carism\u00e1tico pudiera da\u00f1ar esa misi\u00f3n. Los directores parecen haber pensado que le dar\u00edan a Altman sus documentos de salida y sin complicaciones colocar\u00edan un reemplazo. En cambio, las consecuencias fueron inmediatas y volc\u00e1nicas. Altman, que ya era una especie de h\u00e9roe de culto, lleg\u00f3 a ser incluso venerado en esta nueva narrativa. Hizo poco o nada para disuadir el clamor que sigui\u00f3. Para la junta, el esfuerzo de Altman por recuperar su puesto y la revuelta de los empleados de los \u00faltimos d\u00edas es una especie de reivindicaci\u00f3n de que fue correcto despedirlo. \u00a1Clever Sam todav\u00eda est\u00e1 tramando algo!<\/em> Mientras tanto, todo Silicon Valley explot\u00f3, empa\u00f1ando el estatus de OpenAI, tal vez de forma permanente.<\/p>\n Las huellas dactilares de Altman no aparecen en la carta abierta publicada ayer y firmada por m\u00e1s del 95 por ciento de los aproximadamente 770 empleados de OpenAI que dice que los directores son \u00abincapaces de supervisar OpenAI\u00bb. Dice que si los miembros de la junta no reintegran a Altman y renuncian, los trabajadores que firmaron pueden renunciar y unirse a una nueva divisi\u00f3n de investigaci\u00f3n avanzada de IA en Microsoft, formada por Altman y Brockman. Esta amenaza no pareci\u00f3 hacer mella en la determinaci\u00f3n de los directores, quienes aparentemente sintieron que se les ped\u00eda negociar con terroristas. Es de suponer que un director siente lo contrario: Sutskever, quien ahora dice que se arrepiente de sus acciones. Su firma aparece en la carta \u00abt\u00fa renuncias o nosotros renunciamos\u00bb. Habiendo aparentemente eliminado su desconfianza hacia Altman, los dos han sido enviando notas de amor<\/a> entre s\u00ed en X, la plataforma propiedad de otro cofundador de OpenAI, ahora alejado del proyecto.<\/p>\n<\/div>\n