Esta semana en IA: el auge de la IA generativa impulsa la demanda de chips personalizados

Mantenerse al día con una industria que evoluciona tan rápidamente como la IA es una tarea difícil. Entonces, hasta que una IA pueda hacerlo por usted, aquí hay un resumen útil de historias recientes en el mundo del aprendizaje automático, junto con investigaciones y experimentos notables que no cubrimos por sí solos.

Esta semana en IA, d-Matrix, una startup de chips de IA, recaudó 110 millones de dólares para comercializar lo que caracteriza como una plataforma de computación de inferencia «primera en su tipo». D-Matrix afirma que su tecnología permite la inferencia, es decir, ejecutar modelos de IA, a un costo de propiedad menor que las alternativas basadas en GPU.

«D-Matrix es la empresa que hará que la IA generativa sea comercialmente viable», dijo Sasha Ostojic, socia de Playground Global y patrocinadora de d-Matrix.

Si d-Matrix cumple esa promesa es una cuestión abierta. Pero el entusiasmo por él y por las startups similares (véanse NeuReality, Tenstorrent, etc.) muestra una creciente conciencia entre los actores de la industria tecnológica sobre la gravedad de la escasez de hardware de IA. A medida que se acelera la adopción de la IA generativa, los proveedores de chips que ejecutan estos modelos, como Nvidia, luchan por mantener el ritmo de la demanda.

Recientemente, Microsoft advirtió a los accionistas sobre posibles interrupciones en el servicio de IA de Azure si no puede obtener suficientes chips de IA (específicamente GPU) para sus centros de datos. Según se informa, los mejores chips de inteligencia artificial de Nvidia están agotados hasta 2024, gracias en parte a la altísima demanda de gigantes tecnológicos extranjeros como Baidu, ByteDance, Tencent y Alibaba.

No es de extrañar que Microsoft, Amazon y Meta, entre otros, estén invirtiendo en el desarrollo interno de chips de próxima generación para la inferencia de IA. Pero para las empresas que no tienen los recursos para seguir ese drástico curso de acción, el hardware de nuevas empresas como d-Matrix podría ser la mejor opción.

En el escenario más optimista, d-Matrix y sus parientes actuarán como una fuerza igualadora, nivelando el campo de juego para las nuevas empresas en el espacio de la IA generativa (y la IA en general, para el caso). Un análisis reciente realizado por la firma de investigación de IA SemiAnalysis revela cómo la dependencia de la industria de la IA de las GPU está dividiendo el mundo de la tecnología en “ricos en GPU” y “pobres en GPU”, el primer grupo está poblado por empresas tradicionales como Google OpenAI y el segundo grupo comprende principalmente empresas emergentes europeas. y supercomputadoras respaldadas por el gobierno como la francesa Julio Verne.

La inequidad afecta a la industria de la IA, desde los anotadores que etiquetan los datos utilizados para entrenar modelos generativos de IA hasta los sesgos dañinos que a menudo surgen en esos modelos entrenados. El hardware amenaza con convertirse en otro ejemplo. Esto no quiere decir que todas las esperanzas estén puestas en nuevas empresas como d-Matrix: las nuevas técnicas y arquitecturas de IA también podrían ayudar a abordar el desequilibrio. Pero los chips de inferencia de IA más baratos y disponibles comercialmente prometen ser una pieza importante del rompecabezas.

Aquí hay algunas otras historias destacadas de IA de los últimos días:

• Imbue recauda 200 millones de dólares: Imbue, el laboratorio de investigación de IA anteriormente conocido como Generally Intelligent, ha recaudado 200 millones de dólares en una ronda de financiación Serie B que valora a la empresa en más de mil millones de dólares. Imbue se lanzó de forma sigilosa en octubre pasado con un objetivo ambicioso: investigar los fundamentos de la inteligencia humana de los que carecen actualmente las máquinas. El nuevo tramo se destinará a los esfuerzos de la startup para lograrlo.
• eBay genera listados a partir de fotos: eBay está lanzando una nueva herramienta de inteligencia artificial para vendedores del mercado que puede generar una lista de productos a partir de una sola foto. Es potencialmente un gran ahorro de tiempo. Pero como han descubierto algunos usuarios, las herramientas de inteligencia artificial generativa de eBay hasta ahora han tendido a decepcionar en el departamento de calidad.
• Anthropic lanza un plan pago: Anthropic, la startup de IA cofundada por ex empleados de OpenAI, ha anunciado el lanzamiento de su primer plan de suscripción premium orientado al consumidor, Claude Pro, para Claude 2, el chatbot de análisis de texto impulsado por IA de Anthropic.
• OpenAI lanza una conferencia de desarrollo: OpenAI organizará una conferencia de desarrolladores, la primera de su historia, el 6 de noviembre, anunció la compañía esta semana. En el evento OpenAI DevDay de un día de duración, que contará con un discurso de apertura y sesiones de trabajo dirigidas por miembros del personal técnico de OpenAI, OpenAI dijo en una publicación de blog que presentará una vista previa de «nuevas herramientas e intercambiará ideas», pero dejó el resto para la imaginacion.
• Zoom cambia el nombre de las herramientas de IA e introduce otras nuevas: Para seguir siendo competitivo en el abarrotado mercado de las videoconferencias, Zoom está actualizando y cambiando el nombre de varias de sus funciones impulsadas por IA, incluido el asistente de IA generativa anteriormente conocido como Zoom IQ.
• ¿Están los modelos de IA condenados a alucinar?: Los grandes modelos de lenguaje como ChatGPT de OpenAI sufren el mismo problema: inventan cosas. ¿Pero será siempre así? Pedimos a los expertos su granito de arena.
• Los fiscales luchan contra la explotación infantil por IA: Los fiscales generales de los 50 estados de EE. UU., más cuatro territorios, firmaron una carta en la que pedían al Congreso que tomara medidas contra el material de abuso sexual infantil basado en inteligencia artificial. La IA generativa es generalmente benigna en el departamento de pornografía infantil. Pero en los peores casos, como señalan los fiscales generales, se puede aprovechar para facilitar el abuso.
• Artisse genera fotos tuyas: Una nueva herramienta, Artisse, permite a los usuarios generar fotografías de ellos mismos con IA cargando primero una serie de selfies. Eso no es increíblemente novedoso; otras herramientas hacen esto. Pero Artisee afirma mejorar la cosecha actual de aplicaciones fotográficas con IA al ofrecer una gama más amplia de capacidades de entrada y salida y más realismo en las fotografías resultantes, incluso si se desarrollan en reinos fantásticos.

Más aprendizajes automáticos

En primer lugar, literalmente, tenemos este dron de alta velocidad impulsado por IA, que logró vencer a los campeones mundiales humanos de este deporte, en el que los pilotos guían sus drones a velocidades de hasta 100 km/h a través de una serie de puertas. . Se entrenó un modelo de IA en un simulador, lo que “ayudó a evitar la destrucción de múltiples drones en las primeras etapas de aprendizaje”, y realizó todos sus cálculos en tiempo real, logrando la mejor vuelta por medio segundo. Los humanos todavía responden mejor a las condiciones cambiantes, como los cambios de luz y de rumbo, pero puede que solo sea cuestión de tiempo antes de que la IA también los alcance allí.

Los modelos de aprendizaje automático también están avanzando en otras modalidades inesperadas: Osmo, cuyo objetivo es “dar a las computadoras un sentido del olfato”, publicó un artículo en Science que muestra que, de hecho, el olor puede cuantificarse y mapearse de manera confiable. «RGB es un mapa tridimensional de todos los colores… Consideramos nuestro descubrimiento del Mapa de Olores Principales (POM) como la versión olfativa de RGB». El modelo predijo con éxito las características de olores que no había encontrado antes, confirmando la validez de POM. El primer mercado de la empresa parece ser la racionalización de la síntesis de fragancias. De hecho, este artículo circuló como preimpresión el año pasado, pero ahora está en Science, lo que significa que realmente cuenta.

El Mapa Principal de Olores, o como yo lo llamo, Smellspace. Créditos de imagen: ósmo

No sería exacto decir que la IA también es buena en audiciones en este otro estudio, pero es apropiado que tengamos otro sentido en la mezcla. Los biólogos del Imperial College de Londres grabaron casi 36.000 horas de audio de más de 300 sitios en Costa Rica para poder rastrear la vida silvestre allí. Se habrían necesitado 20 años, o 20 estudiantes de posgrado en un año, para escucharlo todo, pero los modelos de aprendizaje automático son excelentes para extraer señales del ruido, por lo que lo analizaron en dos meses. Resulta que a los aulladores costarricenses no les gusta donde hay menos del 80% de cobertura arbórea y son más sensibles a la presencia humana que los de México.

El AI for Good Research Lab de Microsoft tiene un par de proyectos similares, que Juan Lavista Ferres aborda en esta publicación. Y aquí, en español. Básicamente, es el mismo problema de demasiados datos y falta de tiempo o de gente para examinarlos. Sin embargo, con modelos especialmente entrenados, pueden trabajar con cientos de miles de fotografías activadas por movimiento, imágenes de satélite y otros datos. Al cuantificar aspectos como el alcance y los efectos secundarios de la deforestación, proyectos como estos brindan un sólido respaldo empírico a los esfuerzos y leyes de conservación.

Ningún resumen está completo sin alguna aplicación médica nueva y, de hecho, en Yale han descubierto que las ecografías del corazón pueden analizarse mediante un modelo de aprendizaje automático para detectar estenosis aórtica grave, una forma de enfermedad cardíaca. Hacer un diagnóstico como este de forma más rápida y sencilla puede salvar vidas, e incluso cuando no es 100% seguro, puede alertar a un proveedor de atención no especializado de que tal vez debería consultar a un médico.

Por último, tenemos un poco de análisis de los periodistas de ChinaTalk, quienes pusieron en aprietos al último LLM de Baidu, Ernie. Funciona principalmente en chino, por lo que es todo de segunda mano, pero lo esencial es lo que se podría esperar de las restrictivas regulaciones del país en torno a la IA. Se rechazan temas “picantes” como la soberanía de Taiwán, y se hacen “afirmaciones morales e incluso propuestas políticas” que a veces reflejan el régimen actual y otras veces son un poco extrañas. Le encanta Richard Nixon, por ejemplo. Pero hace lo que algunos LLM parecen incapaces de hacer: simplemente callarse cuando cree que está entrando en territorio peligroso. Ojalá todos tuviéramos una discreción tan admirable.