Resulta que el panorama actual de la IA se remonta a (\u00bfqu\u00e9 sabes?) el miedo, los celos y la intensa ambici\u00f3n capitalista. Correos electr\u00f3nicos revelados en el caso antimonopolio del Departamento de Justicia contra Google, reportados por primera vez por Business Insider<\/em>, muestran a los ejecutivos de Microsoft expresando alarma y envidia por el liderazgo de Google en IA. Eso provoc\u00f3 una urgencia que llev\u00f3 a la inversi\u00f3n inicial de mil millones de d\u00f3lares del fabricante de Windows en su ahora indispensable socio, OpenAI.<\/p>\n En un hilo de correo electr\u00f3nico de 2019 muy redactado y titulado \u201cReflexiones sobre OpenAI\u201d, el director ejecutivo de Microsoft, Satya Nadella, env\u00eda un extenso mensaje del director de tecnolog\u00eda Kevin Scott a la directora financiera Amy Hood. \u00abMuy buen correo electr\u00f3nico que explica por qu\u00e9 quiero que hagamos esto… y tambi\u00e9n por qu\u00e9 nos aseguraremos de que nuestra gente de infraestructura lo ejecute\u00bb, escribi\u00f3 Nadella.<\/p>\n Scott escribi\u00f3 que estaba \u201cmuy, muy preocupado\u201d por el r\u00e1pido crecimiento de las capacidades de inteligencia artificial de Google. Dice que inicialmente descart\u00f3 los \u201ctrucos de juego\u201d de la compa\u00f1\u00eda, probablemente refiri\u00e9ndose a los modelos AlphaGo de Google. Uno de ellos venci\u00f3 al campe\u00f3n mundial de Go, Ke Jie, en 2017, una haza\u00f1a notable en ese momento. (Los modelos posteriores de Google superaron ese modelo, eliminando por completo la necesidad de capacitaci\u00f3n humana).<\/p>\n Pero Scott dice que ignorar el progreso de los juegos de Google \u00abfue un error\u00bb. \u201cCuando tomaron toda la infraestructura que hab\u00edan construido para construir [natural language] modelos que no pod\u00edamos replicar f\u00e1cilmente, comenc\u00e9 a tomar las cosas m\u00e1s en serio\u201d, escribi\u00f3 Scott. \u00abY mientras indagaba para tratar de entender d\u00f3nde estaban todas las brechas de capacidad entre Google y nosotros para la capacitaci\u00f3n de modelos, me preocup\u00e9 mucho, mucho\u00bb.<\/p>\n Scott relata c\u00f3mo Microsoft luch\u00f3 por copiar el BERT-large de Google, un modelo de inteligencia artificial que descifra el significado y el contexto de las palabras en una oraci\u00f3n. Scott atribuy\u00f3 la culpa a los avances en infraestructura que hab\u00eda dado su rival, y que Microsoft no lo hab\u00eda hecho.<\/p>\n \u201cResulta que simplemente replicar BERT-large no fue f\u00e1cil para nosotros. Aunque ten\u00edamos la plantilla para el modelo, nos tom\u00f3 ~6 meses entrenar el modelo porque nuestra infraestructura no estaba a la altura de la tarea\u201d, escribi\u00f3 el CTO de Microsoft. \u201cGoogle tuvo BERT durante al menos seis meses antes de eso, por lo que en el tiempo que nos llev\u00f3 lograr la capacidad de entrenar un modelo de par\u00e1metros 340M, tuvieron un a\u00f1o para descubrir c\u00f3mo ponerlo en producci\u00f3n y seguir adelante. a modelos m\u00e1s interesantes y de mayor escala\u201d.<\/p>\n Tambi\u00e9n admiraba y envidiaba las capacidades de autocompletar de Gmail de Google, y dijo que se estaban \u00abponiendo terriblemente bien\u00bb. Coment\u00f3 que Microsoft estaba \u201cvarios a\u00f1os por detr\u00e1s de la competencia en t\u00e9rminos de [machine learning] escala.\u00bb Coment\u00f3 sobre el crecimiento \u00abinteresante\u00bb de OpenAI, DeepMind y Google Brain.<\/p>\n Scott elogi\u00f3 a la gente \u201cmuy inteligente\u201d de Microsoft en sus equipos de aprendizaje autom\u00e1tico, pero dijo que sus ambiciones estaban frenadas. \u201cPero los equipos centrales de aprendizaje profundo dentro de cada uno de estos equipos m\u00e1s grandes son muy peque\u00f1os y sus ambiciones tambi\u00e9n se han visto limitadas, lo que significa que incluso cuando comenzamos a brindarles recursos, todav\u00eda tienen que pasar por un proceso de aprendizaje para escalar. \u201d, escribi\u00f3 Scott. \u00abY estamos varios a\u00f1os por detr\u00e1s de la competencia en t\u00e9rminos de escala de ML\u00bb.<\/p>\n Despu\u00e9s de decirle a Hood que las preocupaciones de Scott eran \u00abpor qu\u00e9 quiero que hagamos esto\u00bb, es decir, invertir en OpenAI, la compa\u00f1\u00eda cumpli\u00f3 los deseos de su CEO. Microsoft invirti\u00f3 mil millones de d\u00f3lares en la startup dirigida por Sam Altman en 2019, y el resto es una historia que cambia r\u00e1pidamente. (Ahora se han invertido 13 mil millones de d\u00f3lares.) Es una tecnolog\u00eda que hace cosas incre\u00edbles pero amenaza con destripar el mercado laboral y brindar a los propagandistas sus herramientas m\u00e1s poderosas hasta la fecha en lo que ya era una era de desinformaci\u00f3n rampante.<\/p>\n<\/div>\n<\/div>\n<\/div>\n<\/div>\n