El poder de OpenAI La lucha que cautivó al mundo de la tecnología después del despido del cofundador Sam Altman finalmente ha llegado a su fin, al menos por el momento. ¿Pero qué hacer con ello?
Parece casi como si se necesitaran algunos elogios, como si OpenAI muriera y una startup nueva, pero no necesariamente mejorada, se encontrara en medio de ella. Altman, ex presidente de Y Combinator, ha vuelto al mando, pero ¿está justificado su regreso? La nueva junta directiva de OpenAI está teniendo un comienzo menos diverso (es decir, es enteramente blanca y masculina), y los objetivos filantrópicos fundacionales de la compañía están en peligro de ser cooptados por intereses más capitalistas.
Eso no quiere decir que el antiguo OpenAI fuera perfecto en modo alguno.
Hasta el viernes por la mañana, OpenAI tenía una junta directiva de seis personas: Altman, el científico jefe de OpenAI, Ilya Sutskever, el presidente de OpenAI, Greg Brockman, la emprendedora tecnológica Tasha McCauley, el director ejecutivo de Quora, Adam D’Angelo, y Helen Toner, directora del Centro de Seguridad y Tecnologías Emergentes de Georgetown. . La junta estaba técnicamente vinculada a una organización sin fines de lucro que tenía una participación mayoritaria en el lado con fines de lucro de OpenAI, con poder absoluto de toma de decisiones sobre las actividades, inversiones y dirección general de OpenAI con fines de lucro.
La inusual estructura de OpenAI fue establecida por los cofundadores de la empresa, incluido Altman, con las mejores intenciones. Los estatutos excepcionalmente breves (de 500 palabras) de la organización sin fines de lucro describen que la junta debe tomar decisiones que garanticen “que la inteligencia artificial general beneficie a toda la humanidad”, dejando que los miembros de la junta decidan cuál es la mejor manera de interpretar eso. Ni las “ganancias” ni los “ingresos” se mencionan en este documento de North Star; Se dice que Toner le dijo una vez al equipo ejecutivo de Altman que desencadenar el colapso de OpenAI «en realidad sería consistente con la [nonprofit’s] misión.»
Quizás el arreglo habría funcionado en algún universo paralelo; Durante años, pareció funcionar bastante bien en OpenAI. Pero una vez que los inversores y socios poderosos se involucraron, las cosas se volvieron… más complicadas.
El despido de Altman une a Microsoft y a los empleados de OpenAI
Después de que la junta despidiera abruptamente a Altman el viernes sin notificar a nadie, incluida la mayor parte de la fuerza laboral de 770 personas de OpenAI, los patrocinadores de la startup comenzaron a expresar su descontento tanto en privado como en público.
Satya Nadella, director ejecutivo de Microsoft, un importante colaborador de OpenAI, supuestamente estaba «furioso» al enterarse de la partida de Altman. Vinod Khosla, fundador de Khosla Ventures, otro patrocinador de OpenAI, dijo en X (anteriormente Twitter) que el fondo quería recuperar a Altman. Mientras tanto, se decía que Thrive Capital, Khosla Ventures, Tiger Global Management y Sequoia Capital estaban contemplando acciones legales contra la junta si las negociaciones del fin de semana para reinstalar a Altman no salían como esperaban.
Ahora, los empleados de OpenAI no estaban no alineado con estos inversores desde las apariencias externas. Por el contrario, cerca de todos ellos –incluido Sutskever, en un aparente cambio de opinión– firmaron una carta amenazando a la junta con una dimisión masiva si optaban por no invertir el rumbo. Pero hay que considerar que estos empleados de OpenAI tenían mucho que perder si OpenAI se desmoronara, dejando de lado las ofertas de trabajo de Microsoft y Salesforce.
OpenAI había estado en conversaciones, lideradas por Thrive, para posiblemente vender acciones de los empleados en una medida que habría aumentado la valoración de la empresa de 29.000 millones de dólares a entre 80.000 y 90.000 millones de dólares. La repentina salida de Altman, y el elenco rotativo de directores ejecutivos interinos cuestionables de OpenAI, le dieron miedo a Thrive, poniendo la venta en peligro.
Altman ganó la batalla de cinco días, pero ¿a qué precio?
Pero ahora, después de varios días sin aliento y tirando de los pelos, se ha llegado a algún tipo de resolución. Altman, junto con Brockman, quien renunció el viernes en protesta por la decisión de la junta, está de regreso, aunque sujeto a una investigación de antecedentes sobre las preocupaciones que precipitaron su destitución. OpenAI tiene una nueva placa de transición que satisface una de las demandas de Altman. Y, según se informa, OpenAI mantendrá su estructura, con límites para las ganancias de los inversores y libertad para que la junta directiva tome decisiones que no estén basadas en los ingresos.
El director ejecutivo de Salesforce, Marc Benioff, publicó en X que ganaron «los buenos». Pero tal vez sea prematuro decirlo.
Claro, Altman «ganó», superando a una junta que lo acusó de «no [being] consistentemente sincero” con los miembros de la junta directiva y, según algunos informes, anteponiendo el crecimiento a la misión. En un ejemplo de esta supuesta travesura, se dice que Altman criticó a Toner por un artículo del que ella fue coautora y que presentaba el enfoque de seguridad de OpenAI desde una perspectiva crítica, hasta el punto en que intentó expulsarla del tablero. En otro, Altman “enfureció” a Sutskever al apresurar el lanzamiento de funciones impulsadas por IA en la primera conferencia de desarrolladores de OpenAI.
La junta no dio explicaciones incluso después de repetidas oportunidades, citando posibles desafíos legales. Y es seguro decir que descartaron a Altman de una manera innecesariamente histriónica. Pero no se puede negar que los directores podrían haber tenido razones válidas para dejar ir a Altman, al menos dependiendo de cómo interpretaron su directriz humanista.
Parece probable que la nueva junta interprete esa directiva de manera diferente.
Actualmente, la junta directiva de OpenAI está formada por el ex codirector ejecutivo de Salesforce, Bret Taylor, D’Angelo (el único vestigio de la junta original) y Larry Summers, el economista y ex presidente de Harvard. Taylor es un emprendedor de emprendedores y ha cofundado numerosas empresas, incluidas FriendFeed (adquirida por Facebook) y Quip (a través de cuya adquisición llegó a Salesforce). Mientras tanto, Summers tiene profundas conexiones comerciales y gubernamentales, un activo para OpenAI, probablemente se pensó en torno a su selección, en un momento en que el escrutinio regulatorio de la IA se está intensificando.
Sin embargo, los directores no parecen una “victoria” absoluta para este periodista, no si la intención fuera la diversidad de puntos de vista. Si bien aún quedan por cubrir seis escaños, los cuatro iniciales establecieron un tono bastante homogéneo; De hecho, una junta de este tipo sería ilegal en Europa, que exige que las empresas reserven al menos el 40% de sus puestos en la junta para candidatas mujeres.
Por qué algunos expertos en IA están preocupados por la nueva placa de OpenAI
No soy el único que está decepcionado. Varios académicos de IA recurrieron a X para expresar sus frustraciones hoy.
Noah Giansiracusa, profesor de matemáticas en la Universidad de Bentley y autor de un libro sobre algoritmos de recomendación en redes sociales, discrepa tanto con la composición exclusivamente masculina de la junta como con la nominación de Summers, quien, según él, tiene un historial de hacer comentarios poco halagadores sobre las mujeres.
“Cualquiera que sea la opinión que uno haga sobre estos incidentes, la óptica no es buena, por decir lo mínimo, particularmente para una empresa que ha estado liderando el camino en el desarrollo de la IA y remodelando el mundo en el que vivimos”, dijo Giansiracusa por mensaje de texto. “Lo que encuentro particularmente preocupante es que el objetivo principal de OpenAI es desarrollar inteligencia artificial general que ‘beneficie a toda la humanidad’. Dado que la mitad de la humanidad son mujeres, los acontecimientos recientes no me dan mucha confianza al respecto. El tóner representa más directamente el lado de la seguridad de la IA, y esta ha sido a menudo la posición en la que se ha colocado a las mujeres, a lo largo de la historia, pero especialmente en la tecnología: proteger a la sociedad de grandes daños mientras los hombres obtienen el crédito por innovar y gobernar el mundo”.
Christopher Manning, director del Laboratorio de IA de Sanford, es un poco más caritativo que Giansiracusa, pero está de acuerdo con él en su evaluación:
«Es de suponer que la junta OpenAI recién formada todavía está incompleta», dijo a TechCrunch. «Sin embargo, la actual junta directiva, que carece de alguien con conocimientos profundos sobre el uso responsable de la IA en la sociedad humana y está compuesta únicamente por hombres blancos, no es un comienzo prometedor para una empresa de IA tan importante e influyente».
La inequidad afecta a la industria de la IA, desde los anotadores que etiquetan los datos utilizados para entrenar modelos generativos de IA hasta los sesgos dañinos que a menudo surgen en esos modelos entrenados, incluidos los modelos de OpenAI. Veranos, para ser justos, tiene expresó preocupación por las posibles ramificaciones dañinas de la IA, al menos en lo que se refiere a los medios de vida. Pero a los críticos con los que hablé les resulta difícil creer que una junta como la actual de OpenAI priorice consistentemente estos desafíos, al menos no de la forma en que lo haría una junta más diversa.
Plantea la pregunta: ¿Por qué OpenAI no intentó reclutar a un conocido especialista en ética de la IA como Timnit Gebru o Margaret Mitchell para la junta inicial? ¿Estaban “no disponibles”? ¿Se negaron? ¿O OpenAI no hizo ningún esfuerzo en primer lugar? Quizás nunca lo sepamos.
Según se informa, OpenAI consideró a Laurene Powell Jobs y Marissa Mayer para puestos en la junta directiva, pero se las consideró demasiado cercanas a Altman. El nombre de Condoleezza Rice también se mencionó, pero finalmente se pasó por alto.
OpenAI tiene la oportunidad de demostrar que es más sabio y mundano al seleccionar los cinco puestos restantes en la junta directiva, o tres, en caso de que Altman y un ejecutivo de Microsoft ocupen uno cada uno (como se ha rumoreado). Si no toman un camino más diverso, lo que Daniel Colson, director del grupo de expertos AI Policy Institute, dicho sobre X bien puede ser cierto: no se puede confiar en unas pocas personas o un solo laboratorio para garantizar que la IA se desarrolle de manera responsable.
Actualizado el 23/11 a las 11:26 am hora del este: se incorporó una publicación de Timnit Gebru e información de un informe sobre posibles miembros de la junta directiva de OpenAI que se pasaron por alto.