Sería fácil pensar que Apple llega tarde al juego de la IA. Desde finales de 2022, cuando ChatGPT arrasó en el mundo, la mayoría de los competidores de Apple se han esforzado por ponerse al día. Si bien Apple ciertamente ha hablado sobre la IA e incluso ha lanzado algunos productos con la IA en mente, parecía estar metiendo un pie en lugar de lanzarse de cabeza.
Pero en los últimos meses, rumores e informes han sugerido que Apple, de hecho, simplemente ha estado esperando el momento oportuno, esperando tomar su decisión. Ha habido informes en las últimas semanas de que Apple está hablando con ambos. OpenAI y Google sobre potenciar algunas de sus funciones de IA, y la compañía también ha estado trabajando en su propio modelo, llamado Ajax.
Si observa la investigación de IA publicada por Apple, comienza a desarrollarse una imagen de cómo el enfoque de Apple hacia la IA podría cobrar vida. Ahora bien, obviamente, hacer suposiciones sobre productos basadas en artículos de investigación es una ciencia profundamente inexacta: la línea que va desde la investigación hasta los estantes de las tiendas es ventosa y está llena de baches. Pero al menos puedes tener una idea de lo que es la empresa. pensamiento sobre y cómo podrían funcionar sus funciones de inteligencia artificial cuando Apple comience a hablar de ellas en su conferencia anual de desarrolladores, WWDC, en junio.
Sospecho que tú y yo esperamos lo mismo aquí: una mejor Siri. ¡Y parece que viene Better Siri! En gran parte de las investigaciones de Apple (y en gran parte de la industria tecnológica, en el mundo y en todas partes) se supone que los grandes modelos de lenguaje harán que los asistentes virtuales sean mejores y más inteligentes de inmediato. Para Apple, llegar a Better Siri significa fabricar esos modelos lo más rápido posible y asegurarse de que estén en todas partes.
En iOS 18, Apple planea tener todas sus funciones de IA ejecutándose en un modelo en el dispositivo, completamente fuera de línea. Bloomberg recientemente reportado. Es difícil construir un buen modelo multipropósito incluso cuando tienes una red de centros de datos y miles de GPU de última generación; es muchísimo más difícil hacerlo con solo las agallas dentro de tu teléfono inteligente. Así que Apple tiene que ser creativa.
En un artículo llamado “LLM en un instante: inferencia eficiente de modelos de lenguaje grande con memoria limitada” (todos estos artículos tienen títulos realmente aburridos pero son realmente interesantes, ¡lo prometo!), los investigadores idearon un sistema para almacenar los datos de un modelo, que generalmente se almacenan en la RAM de su dispositivo, en el SSD. “Hemos demostrado la capacidad de ejecutar LLM de hasta el doble de tamaño de DRAM disponible. [on the SSD]”, escribieron los investigadores, “logrando una aceleración en la velocidad de inferencia de 4 a 5 veces en comparación con los métodos de carga tradicionales en la CPU y de 20 a 25 veces en la GPU”. Descubrieron que al aprovechar el almacenamiento más económico y disponible en su dispositivo, los modelos pueden funcionar más rápido y de manera más eficiente.
Los investigadores de Apple también crearon un sistema llamado ELBERTO eso esencialmente puede comprimir un LLM en un tamaño mucho más pequeño sin empeorarlo significativamente. Su versión comprimida del modelo Bert de Google era 15 veces más pequeña (sólo 1,2 megabytes) y experimentó sólo una reducción del 4 por ciento en la calidad. Sin embargo, vino con algunas compensaciones de latencia.
En general, Apple está presionando para resolver una tensión central en el mundo de los modelos: cuanto más grande se vuelve un modelo, mejor y más útil puede ser, pero también más difícil de manejar, más consumidor de energía y más lento puede volverse. Como tantas otras, la empresa está tratando de encontrar el equilibrio adecuado entre todas esas cosas y al mismo tiempo busca una manera de tenerlo todo.
Mucho de lo que hablamos cuando hablamos de productos de IA es de asistentes virtuales: asistentes que saben cosas, que pueden recordarnos cosas, que pueden responder preguntas y hacer cosas en nuestro nombre. Por lo tanto, no es exactamente sorprendente que gran parte de la investigación de IA de Apple se reduzca a una sola pregunta: ¿y si Siri fuera realmente, realmente, realmente buena?