Mantenerse al d\u00eda con una industria que se mueve tan r\u00e1pido como la IA es una tarea dif\u00edcil. Entonces, hasta que una IA pueda hacerlo por usted, aqu\u00ed hay un resumen \u00fatil de las historias de la \u00faltima semana en el mundo del aprendizaje autom\u00e1tico, junto con investigaciones y experimentos notables que no cubrimos por s\u00ed solos.<\/p>\n
Esta semana, Google domin\u00f3 el ciclo de noticias de IA con una gama de nuevos productos que se lanzaron en su conferencia anual de desarrolladores de E\/S. Van desde una IA generadora de c\u00f3digo destinada a competir con Copilot de GitHub hasta un generador de m\u00fasica de IA que convierte las indicaciones de texto en canciones cortas.<\/p>\n
Una buena cantidad de estas herramientas parecen ser ahorradores de mano de obra leg\u00edtimos, m\u00e1s que pelusa de marketing, es decir. Estoy particularmente intrigado por Project Tailwind, una aplicaci\u00f3n para tomar notas que aprovecha la IA para organizar, resumir y analizar archivos de una carpeta personal de Google Docs. Pero tambi\u00e9n exponen las limitaciones y deficiencias de incluso las mejores tecnolog\u00edas de inteligencia artificial de la actualidad.<\/p>\n
Tome PaLM 2, por ejemplo, el modelo de lenguaje grande (LLM) m\u00e1s nuevo de Google. PaLM 2 impulsar\u00e1 la herramienta de chat Bard actualizada de Google, el competidor de la compa\u00f1\u00eda para ChatGPT de OpenAI, y funcionar\u00e1 como el modelo base para la mayor\u00eda de las nuevas funciones de IA de Google. Pero mientras PaLM 2 puede escribir c\u00f3digo, correos electr\u00f3nicos y m\u00e1s, como LLM comparables, tambi\u00e9n responde a las preguntas de manera t\u00f3xica y sesgada.<\/p>\n
El generador de m\u00fasica de Google tambi\u00e9n est\u00e1 bastante limitado en lo que puede lograr. Como escrib\u00ed en mis manos, la mayor\u00eda de las canciones que he creado con MusicLM suenan aceptables en el mejor de los casos, y en el peor, como un ni\u00f1o de cuatro a\u00f1os suelto en un DAW.<\/p>\n
Se ha escrito mucho sobre c\u00f3mo la IA reemplazar\u00e1 los trabajos, potencialmente el equivalente a 300 millones de trabajos de tiempo completo, seg\u00fan un informe de Goldman Sachs. En una encuesta realizada por Harris, el 40 % de los trabajadores familiarizados con ChatGPT, la herramienta de chatbot impulsada por IA de OpenAI, est\u00e1n preocupados de que reemplace sus trabajos por completo.<\/p>\n
La IA de Google no es el final de todo. De hecho, podr\u00eda decirse que la compa\u00f1\u00eda est\u00e1 atrasada en la carrera de IA. Pero es un hecho innegable que Google emplea a algunos de los mejores investigadores de inteligencia artificial del mundo. Y si esto es lo mejor que pueden manejar, es un testimonio del hecho de que la IA est\u00e1 lejos de ser un problema resuelto.<\/p>\n
Aqu\u00ed est\u00e1n los otros titulares de AI de nota de los \u00faltimos d\u00edas:<\/p>\n
- \n
- Meta trae IA generativa a los anuncios:<\/strong> Esta semana, Meta anunci\u00f3 una especie de caja de arena de IA para que los anunciantes los ayuden a crear copias alternativas, generaci\u00f3n de fondo a trav\u00e9s de indicaciones de texto y recorte de im\u00e1genes para anuncios de Facebook o Instagram. La compa\u00f1\u00eda dijo que las funciones est\u00e1n disponibles para anunciantes selectos en este momento y ampliar\u00e1 el acceso a m\u00e1s anunciantes en julio.<\/li>\n
- Contexto a\u00f1adido:<\/strong> Anthropic ha ampliado la ventana de contexto para Claude, su modelo de IA de generaci\u00f3n de texto insignia, a\u00fan en versi\u00f3n preliminar, de 9000 tokens a 100 000 tokens. La ventana de contexto se refiere al texto que el modelo considera antes de generar texto adicional, mientras que los tokens representan texto sin procesar (p. ej., la palabra \u00abfant\u00e1stico\u00bb se dividir\u00eda en los tokens \u00abfan\u00bb, \u00abtas\u00bb y \u00abtic\u00bb). Hist\u00f3ricamente e incluso hoy, la mala memoria ha sido un impedimento para la utilidad de la IA generadora de texto. Pero las ventanas de contexto m\u00e1s grandes podr\u00edan cambiar eso.<\/li>\n
- Anthropic promociona la ‘IA constitucional’:<\/strong> Las ventanas de contexto m\u00e1s grandes no son el \u00fanico diferenciador de los modelos antr\u00f3picos. Esta semana, la compa\u00f1\u00eda detall\u00f3 la \u00abIA constitucional\u00bb, su t\u00e9cnica interna de capacitaci\u00f3n en IA que tiene como objetivo imbuir a los sistemas de IA con \u00abvalores\u00bb definidos por una \u00abconstituci\u00f3n\u00bb. A diferencia de otros enfoques, Anthropic argumenta que la IA constitucional hace que el comportamiento de los sistemas sea m\u00e1s f\u00e1cil de entender y m\u00e1s simple de ajustar seg\u00fan sea necesario.<\/li>\n
- Un LLM creado para la investigaci\u00f3n:<\/strong> El Allen Institute for AI Research (AI2), una organizaci\u00f3n sin fines de lucro, anunci\u00f3 que planea capacitar a un LLM centrado en la investigaci\u00f3n llamado Open Language Model, que se suma a la gran y creciente biblioteca de c\u00f3digo abierto. AI2 ve el Modelo de lenguaje abierto, o OLMo para abreviar, como una plataforma y no solo como un modelo, que permitir\u00e1 a la comunidad de investigaci\u00f3n tomar cada componente que crea AI2 y usarlo ellos mismos o buscar mejorarlo.<\/li>\n
- Nuevo fondo para IA:<\/strong> En otras noticias de AI2, AI2 Incubator, el fondo de inicio de IA de la organizaci\u00f3n sin fines de lucro, se est\u00e1 acelerando nuevamente a tres veces su tama\u00f1o anterior: $ 30 millones frente a $ 10 millones. Veintiuna empresas han pasado por la incubadora desde 2017, atrayendo unos 160 millones de d\u00f3lares en inversiones adicionales y al menos una adquisici\u00f3n importante: XNOR, un equipo de eficiencia y aceleraci\u00f3n de IA que Apple adquiri\u00f3 posteriormente por unos 200 millones de d\u00f3lares.<\/li>\n
- La UE introduce reglas para la IA generativa:<\/strong> En una serie de votaciones en el Parlamento Europeo, los eurodiputados respaldaron esta semana una serie de enmiendas al proyecto de ley de IA del bloque, incluido el establecimiento de requisitos para los llamados modelos fundamentales que sustentan las tecnolog\u00edas de IA generativa como ChatGPT de OpenAI. Las enmiendas imponen a los proveedores de modelos b\u00e1sicos la responsabilidad de aplicar controles de seguridad, medidas de gobernanza de datos y mitigaciones de riesgos antes de poner sus modelos en el mercado.<\/li>\n
- Un traductor universal:<\/strong> Google est\u00e1 probando un nuevo y poderoso servicio de traducci\u00f3n que reduce el video en un nuevo idioma y al mismo tiempo sincroniza los labios del hablante con palabras que nunca dijo. Podr\u00eda ser muy \u00fatil por muchas razones, pero la empresa fue sincera sobre la posibilidad de abuso y las medidas adoptadas para evitarlo.<\/li>\n
- Explicaciones automatizadas:<\/strong> A menudo se dice que los LLM en la l\u00ednea de ChatGPT de OpenAI son una caja negra, y ciertamente, hay algo de verdad en eso. En un esfuerzo por despegar sus capas, OpenAI est\u00e1 desarrollando una herramienta para identificar autom\u00e1ticamente qu\u00e9 partes de un LLM son responsables de cu\u00e1l de sus comportamientos. Los ingenieros detr\u00e1s de \u00e9l enfatizan que est\u00e1 en las primeras etapas, pero el c\u00f3digo para ejecutarlo est\u00e1 disponible en c\u00f3digo abierto en GitHub a partir de esta semana.<\/li>\n
- IBM lanza nuevos servicios de IA: <\/strong>En su conferencia anual Think, IBM anunci\u00f3 IBM Watsonx, una nueva plataforma que ofrece herramientas para construir modelos de IA y brinda acceso a modelos previamente entrenados para generar c\u00f3digo de computadora, texto y m\u00e1s. La compa\u00f1\u00eda dice que el lanzamiento estuvo motivado por los desaf\u00edos que muchas empresas a\u00fan experimentan al implementar IA en el lugar de trabajo.<\/li>\n<\/ul>\n
Otros aprendizajes autom\u00e1ticos<\/h2>\n
\nCr\u00e9ditos de imagen:<\/strong> IA de aterrizaje<\/p>\n<\/div>\n
Landing AI, la nueva compa\u00f1\u00eda de Andrew Ng, est\u00e1 adoptando un enfoque m\u00e1s intuitivo para crear entrenamiento de visi\u00f3n por computadora. Hacer que un modelo entienda lo que quieres identificar en las im\u00e1genes es bastante minucioso, pero su t\u00e9cnica de \u00abindicaci\u00f3n visual\u00bb te permite hacer unas pocas pinceladas y descubre tu intenci\u00f3n a partir de ah\u00ed. Cualquiera que tenga que construir modelos de segmentaci\u00f3n est\u00e1 diciendo \u00ab\u00a1Dios m\u00edo, por fin!\u00bb Probablemente muchos estudiantes de posgrado que actualmente pasan horas enmascarando org\u00e1nulos y objetos dom\u00e9sticos.<\/p>\n
Microsoft ha aplicado modelos de difusi\u00f3n de una manera \u00fanica e interesante, us\u00e1ndolos esencialmente para generar un vector de acci\u00f3n en lugar de una imagen, habi\u00e9ndolo entrenado en muchas acciones humanas observadas. Todav\u00eda es muy temprano y la difusi\u00f3n no es la soluci\u00f3n obvia para esto, pero como son estables y vers\u00e1tiles, es interesante ver c\u00f3mo se pueden aplicar m\u00e1s all\u00e1 de las tareas puramente visuales. Su art\u00edculo se presentar\u00e1 en ICLR a finales de este a\u00f1o.<\/p>\n
![\"\"](\"https:\/\/techcrunch.com\/wp-content\/uploads\/2023\/05\/imagebind-cross.png\")
<\/p>\nCr\u00e9ditos de imagen:<\/strong> Meta<\/p>\n<\/div>\n
Meta tambi\u00e9n est\u00e1 empujando los l\u00edmites de la IA con ImageBind, que afirma es el primer modelo que puede procesar e integrar datos de seis modalidades diferentes: im\u00e1genes y video, audio, datos de profundidad 3D, informaci\u00f3n t\u00e9rmica y datos de movimiento o posici\u00f3n. Esto significa que en su peque\u00f1o espacio de incrustaci\u00f3n de aprendizaje autom\u00e1tico, una imagen puede asociarse con un sonido, una forma 3D y varias descripciones de texto, cualquiera de las cuales puede ser consultada o utilizada para tomar una decisi\u00f3n. Es un paso hacia la IA \u00abgeneral\u00bb en el sentido de que absorbe y asocia datos m\u00e1s como el cerebro, pero a\u00fan es b\u00e1sico y experimental, as\u00ed que no te emociones demasiado todav\u00eda.<\/p>\n
![\"\"](\"https:\/\/techcrunch.com\/wp-content\/uploads\/2023\/05\/pesto-epfl.jpg\")
<\/p>\nSi estas prote\u00ednas se tocan\u2026 \u00bfqu\u00e9 pasa?<\/p>\n<\/div>\n
Todo el mundo se entusiasm\u00f3 con AlphaFold, y por una buena raz\u00f3n, pero en realidad la estructura es solo una peque\u00f1a parte de la compleja ciencia de la prote\u00f3mica. La forma en que interact\u00faan esas prote\u00ednas es importante y dif\u00edcil de predecir, pero este nuevo modelo PeSTo de EPFL intenta hacer precisamente eso. \u201cSe enfoca en \u00e1tomos e interacciones importantes dentro de la estructura de la prote\u00edna\u201d, dijo el desarrollador principal Lucien Krapp. \u00abSignifica que este m\u00e9todo captura de manera efectiva las interacciones complejas dentro de las estructuras de prote\u00ednas para permitir una predicci\u00f3n precisa de las interfaces de uni\u00f3n de prote\u00ednas\u00bb. Aunque no sea exacto o 100% fiable, no tener que empezar de cero es muy \u00fatil para los investigadores.<\/p>\n
Los federales se est\u00e1n volviendo locos con la IA. El presidente incluso se present\u00f3 en una reuni\u00f3n con un grupo de los principales directores ejecutivos de IA para decir lo importante que es hacer esto bien. Tal vez un grupo de corporaciones no sean necesariamente las adecuadas para preguntar, pero al menos tendr\u00e1n algunas ideas que vale la pena considerar. Pero ya tienen cabilderos, \u00bfno?<\/p>\n
Estoy m\u00e1s entusiasmado con la aparici\u00f3n de nuevos centros de investigaci\u00f3n de IA con fondos federales. La investigaci\u00f3n b\u00e1sica es muy necesaria para contrarrestar el trabajo centrado en el producto que realizan empresas como OpenAI y Google, por lo que cuando tiene centros de IA con mandatos para investigar cosas como las ciencias sociales (en CMU) o el cambio clim\u00e1tico y la agricultura (en U of Minnesota), se siente como campos verdes (tanto en sentido figurado como literal). Aunque tambi\u00e9n quiero dar un peque\u00f1o reconocimiento a esta investigaci\u00f3n de Meta sobre medici\u00f3n forestal.<\/p>\n
![\"\"](\"https:\/\/techcrunch.com\/wp-content\/uploads\/2023\/05\/AI-CLIMATE-researchers-5.23_900x600.jpg\")
<\/p>\nHacer IA juntos en una pantalla grande: \u00a1es ciencia!<\/p>\n<\/div>\n
Hay muchas conversaciones interesantes sobre la IA. Pens\u00e9 que esta entrevista con los acad\u00e9micos de UCLA (mi alma mater, go Bruins) Jacob Foster y Danny Snelson fue interesante. Aqu\u00ed hay una gran idea sobre los LLM para fingir que se te ocurri\u00f3 este fin de semana cuando la gente habla de IA:<\/p>\n
\n
Estos sistemas revelan cu\u00e1n formalmente consistente es la mayor\u00eda de la escritura. Cuanto m\u00e1s gen\u00e9ricos sean los formatos que simulan estos modelos predictivos, m\u00e1s exitosos son. Estos desarrollos nos empujan a reconocer las funciones normativas de nuestras formas y potencialmente transformarlas. Despu\u00e9s de la introducci\u00f3n de la fotograf\u00eda, que es muy buena para capturar un espacio de representaci\u00f3n, el entorno pict\u00f3rico desarroll\u00f3 el impresionismo, un estilo que rechaz\u00f3 por completo la representaci\u00f3n precisa para quedarse con la materialidad de la pintura misma.<\/p>\n<\/blockquote>\n
\u00a1Definitivamente usando eso!<\/p>\n<\/p><\/div>\n
- Contexto a\u00f1adido:<\/strong> Anthropic ha ampliado la ventana de contexto para Claude, su modelo de IA de generaci\u00f3n de texto insignia, a\u00fan en versi\u00f3n preliminar, de 9000 tokens a 100 000 tokens. La ventana de contexto se refiere al texto que el modelo considera antes de generar texto adicional, mientras que los tokens representan texto sin procesar (p. ej., la palabra \u00abfant\u00e1stico\u00bb se dividir\u00eda en los tokens \u00abfan\u00bb, \u00abtas\u00bb y \u00abtic\u00bb). Hist\u00f3ricamente e incluso hoy, la mala memoria ha sido un impedimento para la utilidad de la IA generadora de texto. Pero las ventanas de contexto m\u00e1s grandes podr\u00edan cambiar eso.<\/li>\n