Como científico jefe de Open AI, Ilya Sutskever se preocupa por el poder de su propio invento. Ahora lamenta su participación en la expulsión de Sam Altman; el motivo no está claro.
Ilya Sutskever participó de manera importante en el desarrollo de Chat-GPT; ahora advierte sobre las capacidades del chatbot.
«La inteligencia artificial solucionará todos los problemas que tenemos hoy. Resolverá problemas en el mercado laboral, curará enfermedades, combatirá la pobreza. Pero creará nuevos problemas. La inteligencia artificial tiene el potencial de crear dictaduras eternas”.
Con estas palabras advierte en una de ellas el informático canadiense Ilya Sutskever. Documentación del “Guardián” de los riesgos de la inteligencia artificial. Según Sutskever, la IA algún día será tan poderosa que su relación con los humanos será como la de los humanos con los animales: “Nos gustan los animales. Pero cuando se trata de construir una autopista entre dos ciudades, no pedimos permiso a los animales».
Moralidad o beneficio: ¿qué es más importante?
El propio Sutskever es uno de los fundadores de una de las empresas de IA más influyentes: Open AI, la empresa detrás de Chat-GPT. Sutskever forma parte de la junta directiva de Open AI y se le considera la fuerza impulsora detrás del despido del director ejecutivo Sam Altman, que se anunció sorprendentemente el viernes. La medida causó gran consternación entre los empleados: el lunes Sutskever finalmente anunció que lamentaba la decisión. No quería dañar a Open AI. También firmó una carta exigiendo la dimisión del consejo directivo.
Lamento profundamente mi participación en las acciones de la junta. Nunca tuve la intención de dañar OpenAI. Me encanta todo lo que hemos construido juntos y haré todo lo que pueda para reunir la empresa.
-Ilya Sutskever (@ilyasut) 20 de noviembre de 2023
Es el último giro caótico en una batalla sobre la moralidad y las ganancias que enfrenta a Altman y Sutskever entre sí. Para este último, los planes del CEO Altman fueron demasiado lejos. Si no se toman en serio los riesgos de la IA, dice Sutskever, algún día podría volverse demasiado poderoso. Él mismo es uno de los que hicieron posible el desarrollo de modelos de lenguaje como Chat-GPT.
Sutskever, nacido en la Rusia soviética en 1984 y criado en Israel, estudió en la Universidad de Toronto con Geoffrey Hinton, considerado el “padrino de la inteligencia artificial”. Hace aproximadamente una década, él y Hinton desarrollaron la red neuronal Alexnet, que utilizaba aprendizaje profundo para analizar miles de fotografías y reconocer objetos como flores o automóviles. La empresa asociada pronto fue comprada por Google por 44 millones de dólares, donde trabajó a partir de entonces Sutskever.
Elon Musk llevó a Sutskever a la IA abierta
Otro entusiasta de la IA en Google pronto se dio cuenta de Sutskever: Elon Musk, que advierte periódicamente sobre los riesgos potenciales de la inteligencia artificial. Convenció al joven informático de que el fundador de Google, Larry Page, no prestaba suficiente atención a estos riesgos de seguridad. Por lo tanto, Sutskever debería unirse al equipo fundador de Open AI en torno a Musk, Sam Altman y Greg Brockman.
En Open AI, fundada como organización sin fines de lucro en 2015, Ilya Sutskever se convirtió en científico jefe. Como tal, desempeñó un papel central en el desarrollo del modelo de lenguaje Chat-GPT y del generador de imágenes Dall-E. Con gran éxito: cuando el chatbot Chat-GPT 3 se puso a disposición del público hace casi un año, atrajo en tan solo unos días a más de un millón de usuarios.
Pero la cuestión de cómo abordar los riesgos potenciales de la IA también se convirtió cada vez más en un problema en la IA abierta.
Cuatro años después de su fundación, llega Microsoft
Elon Musk dejó la junta directiva de la compañía en 2018 después de una lucha de poder entre él y Sam Altman. A principios de este año, Musk escribió en un tweet que Open AI se había convertido en una empresa cerrada con fines de lucro bajo el control de Microsoft.
OpenAI se creó como una empresa sin fines de lucro de código abierto (por eso la llamé IA “Abierta”) para que sirviera de contrapeso a Google, pero ahora se ha convertido en una empresa de código cerrado y de máxima rentabilidad efectivamente controlada por Microsoft.
No es lo que pretendía en absoluto.
– Elon Musk (@elonmusk) 17 de febrero de 2023
De hecho, después de la partida de Musk, Open AI se alejó cada vez más de su objetivo original sin fines de lucro. Para tener más dinero para desarrollar productos, Sam Altman fundó en 2019 una sucursal de la empresa con fines de lucro que, entre otras cosas, atrajo miles de millones en inversiones de Microsoft.
El conflicto entre Altman y Sutskever llega a un punto crítico
Sin embargo, el control de la empresa permaneció en manos de la junta directiva de la organización sin fines de lucro y, por tanto, también en manos de Ilya Sutskever. Las cuestiones éticas planteadas por el rápido éxito de los modelos lingüísticos llevaron a crecientes conflictos entre Sutskever y Altman. Según fuentes anónimas citadas por la agencia de noticias Bloomberg, sus opiniones divergieron sobre la rapidez con la que deberían comercializarse los productos de IA generativa y qué medidas son necesarias para minimizar los posibles daños.
Si bien Sam Altman, como rostro de Chat-GPT, ha pasado mucho tiempo durante los últimos meses hablando con políticos sobre las oportunidades de la IA y aliviando sus preocupaciones (“Las ventajas de nuestras tecnologías superan claramente a las desventajas”), los de Ilya Sutskever siguieron creciendo.
Las superinteligencias como amenaza
A Sutskever le preocupa especialmente la posibilidad de que un tipo de superinteligencia artificial superior a la humana se salga de control. En julio, Open AI lanzó un nuevo proyecto liderado por Sutskever dedicado a soluciones técnicas para un mejor control de la inteligencia artificial. Superinteligencia artificial, la compañía dijo en el anuncio, «Podría ser muy peligroso y conducir a la pérdida de poder o incluso a la extinción de la humanidad». Hay que asegurarse de que el ordenador persiga los mismos objetivos que los humanos.
Sutskever no está solo con estas preocupaciones: en marzo de este año Más de 1.300 emprendedores tecnológicos, incluido Elon Musk, publicaron una carta en el que pidieron una pausa en el desarrollo de la inteligencia artificial. Y el supervisor doctoral de Sutskever, Geoffrey Hinton. anunció su salida de Google en mayo, poder hablar libremente sobre los peligros de la IA a partir de ahora.
Sutskever lamenta sus acciones
Sutskever también aspira a frenar el desarrollo de la IA. En el futuro, quiere pasar del desarrollo de nuevos modelos lingüísticos a la prevención de una superinteligencia abrumadora. Sam Altman, por otro lado, se trasladará a Microsoft, como se anunció el lunes, para liderar un nuevo equipo de investigación junto con el cofundador de Open AI, Greg Brockman.
Más de 700 de los 770 empleados de Open AI anunciaron el lunes que se unirían a Altman y Brockman para abandonar la empresa. Al mismo tiempo se produjo el cambio de sentido en Sutskever. Dijo que quería hacer todo lo posible para volver a unir la empresa.
No está claro si tendrá éxito en esto, ni tampoco cómo continuará el desarrollo de la inteligencia artificial. Para Sutskever, sin embargo, una cosa es segura: “Será monumental, trascendental. Habrá un antes y un después. »