Resulta que el panorama actual de la IA se remonta a (¿qué sabes?) el miedo, los celos y la intensa ambición capitalista. Correos electrónicos revelados en el caso antimonopolio del Departamento de Justicia contra Google, reportados por primera vez por Business Insider, muestran a los ejecutivos de Microsoft expresando alarma y envidia por el liderazgo de Google en IA. Eso provocó una urgencia que llevó a la inversión inicial de mil millones de dólares del fabricante de Windows en su ahora indispensable socio, OpenAI.
En un hilo de correo electrónico de 2019 muy redactado y titulado “Reflexiones sobre OpenAI”, el director ejecutivo de Microsoft, Satya Nadella, envía un extenso mensaje del director de tecnología Kevin Scott a la directora financiera Amy Hood. «Muy buen correo electrónico que explica por qué quiero que hagamos esto… y también por qué nos aseguraremos de que nuestra gente de infraestructura lo ejecute», escribió Nadella.
Scott escribió que estaba “muy, muy preocupado” por el rápido crecimiento de las capacidades de inteligencia artificial de Google. Dice que inicialmente descartó los “trucos de juego” de la compañía, probablemente refiriéndose a los modelos AlphaGo de Google. Uno de ellos venció al campeón mundial de Go, Ke Jie, en 2017, una hazaña notable en ese momento. (Los modelos posteriores de Google superaron ese modelo, eliminando por completo la necesidad de capacitación humana).
Pero Scott dice que ignorar el progreso de los juegos de Google «fue un error». “Cuando tomaron toda la infraestructura que habían construido para construir [natural language] modelos que no podíamos replicar fácilmente, comencé a tomar las cosas más en serio”, escribió Scott. «Y mientras indagaba para tratar de entender dónde estaban todas las brechas de capacidad entre Google y nosotros para la capacitación de modelos, me preocupé mucho, mucho».
Scott relata cómo Microsoft luchó por copiar el BERT-large de Google, un modelo de inteligencia artificial que descifra el significado y el contexto de las palabras en una oración. Scott atribuyó la culpa a los avances en infraestructura que había dado su rival, y que Microsoft no lo había hecho.
“Resulta que simplemente replicar BERT-large no fue fácil para nosotros. Aunque teníamos la plantilla para el modelo, nos tomó ~6 meses entrenar el modelo porque nuestra infraestructura no estaba a la altura de la tarea”, escribió el CTO de Microsoft. “Google tuvo BERT durante al menos seis meses antes de eso, por lo que en el tiempo que nos llevó lograr la capacidad de entrenar un modelo de parámetros 340M, tuvieron un año para descubrir cómo ponerlo en producción y seguir adelante. a modelos más interesantes y de mayor escala”.
También admiraba y envidiaba las capacidades de autocompletar de Gmail de Google, y dijo que se estaban «poniendo terriblemente bien». Comentó que Microsoft estaba “varios años por detrás de la competencia en términos de [machine learning] escala.» Comentó sobre el crecimiento «interesante» de OpenAI, DeepMind y Google Brain.
Scott elogió a la gente “muy inteligente” de Microsoft en sus equipos de aprendizaje automático, pero dijo que sus ambiciones estaban frenadas. “Pero los equipos centrales de aprendizaje profundo dentro de cada uno de estos equipos más grandes son muy pequeños y sus ambiciones también se han visto limitadas, lo que significa que incluso cuando comenzamos a brindarles recursos, todavía tienen que pasar por un proceso de aprendizaje para escalar. ”, escribió Scott. «Y estamos varios años por detrás de la competencia en términos de escala de ML».
Después de decirle a Hood que las preocupaciones de Scott eran «por qué quiero que hagamos esto», es decir, invertir en OpenAI, la compañía cumplió los deseos de su CEO. Microsoft invirtió mil millones de dólares en la startup dirigida por Sam Altman en 2019, y el resto es una historia que cambia rápidamente. (Ahora se han invertido 13 mil millones de dólares.) Es una tecnología que hace cosas increíbles pero amenaza con destripar el mercado laboral y brindar a los propagandistas sus herramientas más poderosas hasta la fecha en lo que ya era una era de desinformación rampante.