Khronos Group es una colaboración entre casi 200 empresas que trabajan juntas para producir varias API para informática. Su software más famoso, como OpenGL, WebGL y Vulkan, tiene que ver con gráficos, pero durante los últimos años el consorcio ha estado trabajando para hacer lo mismo con el vídeo. Se acaba de anunciar que Vulkan Video, una API de bajo nivel para manejar transmisiones de video, ahora es totalmente compatible con la aceleración de hardware de los estándares H.264 y H.265 para decodificación. y codificación.

Si se pregunta qué es una API, considérelo un servicio de traducción. Actúa como intermediario entre el software de un desarrollador y los controladores del hardware, lo que hace que sea mucho más fácil producir una aplicación que aproveche al máximo las funciones de un dispositivo. Por ejemplo, los juegos suelen estar escritos en C# o C++, pero las instrucciones del código están escritas para cualquier API que se utilice. Podría ser Direct3D o Vulkan en lo que respecta a los gráficos.

Meta está agregando otra llama a su manada y ésta sabe codificar. El jueves, Meta presentó «Code Llama», un nuevo modelo de lenguaje grande (LLM) basado en Llama 2 que está diseñado para ayudar a los programadores generando y depurando código. Su objetivo es hacer que el desarrollo de software sea más eficiente y accesible, y es gratuito para uso comercial y de investigación.

Al igual que ChatGPT y GitHub Copilot Chat, puedes pedirle a Code Llama que escriba código usando instrucciones de alto nivel, como «Escríbeme una función que genere la secuencia de Fibonacci». O puede ayudar con la depuración si proporciona una muestra de código problemático y solicita correcciones.

Como extensión de Llama 2 (lanzado en julio), Code Llama se basa en LLM con pesos disponibles que Meta ha estado desarrollando desde febrero. Code Llama ha sido capacitado específicamente en conjuntos de datos de código fuente y puede operar en varios lenguajes de programación, incluidos Python, Java, C++, PHP, TypeScript, C#, secuencias de comandos Bash y más.

En particular, Code Llama puede manejar hasta 100.000 tokens (fragmentos de palabras) de contexto, lo que significa que puede evaluar programas largos. En comparación, ChatGPT normalmente solo funciona con alrededor de 4000 a 8000 tokens, aunque hay modelos de contexto más largos disponibles a través de la API de OpenAI. Como explica Meta en su artículo más técnico:

Además de ser un requisito previo para generar programas más largos, tener secuencias de entrada más largas abre nuevos e interesantes casos de uso para un LLM de código. Por ejemplo, los usuarios pueden proporcionar al modelo más contexto desde su código base para que las generaciones sean más relevantes. También ayuda en escenarios de depuración en bases de código más grandes, donde mantenerse al tanto de todo el código relacionado con un problema concreto puede ser un desafío para los desarrolladores. Cuando los desarrolladores se enfrentan a la depuración de una gran cantidad de código, pueden pasar toda la longitud del código al modelo.

Code Llama de Meta viene en tres tamaños: versiones de 7, 13 y 34 mil millones de parámetros. Los parámetros son elementos numéricos de la red neuronal que se ajustan durante el proceso de entrenamiento (antes del lanzamiento). Más parámetros generalmente significan mayor complejidad y mayor capacidad para tareas matizadas, pero también requieren más potencia computacional para operar.

Los diferentes tamaños de parámetros ofrecen compensaciones entre velocidad y rendimiento. Si bien se espera que el modelo 34B brinde asistencia de codificación más precisa, es más lento y requiere más memoria y potencia de GPU para funcionar. Por el contrario, los modelos 7B y 13B son más rápidos y más adecuados para tareas que requieren baja latencia, como la finalización de código en tiempo real, y pueden ejecutarse en una única GPU de nivel de consumidor.

Meta también ha lanzado dos variaciones especializadas: Code Llama-Python y Code Llama-Instruct. La variante de Python está optimizada específicamente para la programación de Python («afinada en 100 mil millones de tokens de código Python»), que es un lenguaje importante en la comunidad de IA. Code Llama-Instruct, por otro lado, está diseñado para interpretar mejor la intención del usuario cuando se le proporcionan indicaciones en lenguaje natural.

Además, Meta dice que los modelos base e instrucción 7B y 13B han sido entrenados con la capacidad de «rellenar el medio» (FIM), que les permite insertar código en el código existente, lo que ayuda a completar el código.

Licencia y conjunto de datos

Code Llama está disponible con la misma licencia que Llama 2, que proporciona pesos (los archivos de red neuronal entrenados necesarios para ejecutar el modelo en su máquina) y permite la investigación y el uso comercial, pero con algunas restricciones establecidas en una política de uso aceptable.

Meta ha manifestado repetidamente su preferencia por un enfoque abierto para la IA, aunque su enfoque ha recibido críticas por no ser completamente de «código abierto» de conformidad con la Iniciativa de Código Abierto. Aún así, lo que Meta proporciona y permite con su licencia es mucho más abierto que OpenAI, que no pone a disposición los pesos ni el código para sus modelos de lenguaje de última generación.

Meta no ha revelado la fuente exacta de sus datos de entrenamiento para Code Llama (diciendo que se basa en gran medida en un «conjunto de datos casi deduplicado de código disponible públicamente»), pero algunos sospechar ese contenido extraído del sitio web StackOverflow puede ser una fuente. En X, el científico de datos de Hugging Face, Leandro von Werra, compartió una discusión potencialmente alucinada sobre una función de programación que incluía dos reales Nombres de usuario de StackOverflow.

En el artículo de investigación de Code Llama, Meta dice: «También obtenemos el 8% de nuestros datos de muestra de conjuntos de datos de lenguaje natural relacionados con el código. Este conjunto de datos contiene muchas discusiones sobre código y fragmentos de código incluidos en preguntas o respuestas en lenguaje natural».

Aún así, a von Werra le gustaría que se citaran detalles específicos en el futuro. «Sería fantástico para la reproducibilidad y el intercambio de conocimientos con la comunidad de investigación revelar qué fuentes de datos se utilizaron durante el entrenamiento», escribió von Werra. «Aún más importante, sería fantástico reconocer que estas comunidades contribuyeron al éxito de los modelos resultantes. «

¿Alguna vez te has encontrado mirando un problema de codificación complicado y pensando, «mierda»?

Si esos pensamientos se abren paso en su código o en los comentarios asociados, está en buena compañía. Cuando el estudiante de pregrado Jan Strehmel del Instituto de Tecnología de Karlsruhe analizó el código fuente abierto escrito en el lenguaje de programación C, no encontró escasez de obscenidades. Si bien eso podría esperarse, el hallazgo general de Strehmel podría no serlo: la calidad promedio del código que contenía juramentos fue significativamente mayor que la calidad promedio del código que no lo hizo.

“¡Los resultados son bastante sorprendentes!” Strehmel dijo. Los programadores y científicos pueden tener muchas preguntas de seguimiento. ¿Están seguros los investigadores de que no hay ciertos programadores propensos a las blasfemias que sesgan los resultados? ¿Qué pasa con otros lenguajes de programación? Y, lo que es más importante, ¿por qué las palabrotas se correlacionan con un código de alta calidad? El trabajo está en curso, pero incluso sin todas las respuestas, una cosa es segura: Strehmel acaba de escribir una gran tesis de licenciatura.

Malas palabras, buen código

El supervisor de Strehmel, el bioinformático Alexandros Stamatakis, comenzó a preguntarse cómo las palabrotas afectan la calidad del código después de que un miembro del laboratorio le mostrara un gráfico de la prevalencia de palabrotas en varias versiones del código subyacente de Linux. Stamatakis se dio cuenta de que tenía la herramienta perfecta para preguntar si las blasfemias se correlacionan con la calidad del código. Un programa llamado SoftWipe, desarrollado por su laboratorio, mide el cumplimiento de los estándares de codificación, como el uso de controles de calidad y una estructura de código simple.

Para investigar, Strehmel extrajo alrededor de 3800 ejemplos de código que contenían palabrotas, junto con 7600 ejemplos de código que no las contenían, de GitHub. SoftWipe reveló que, en promedio, el código que contenía palabrotas obtuvo un puntaje medio punto más alto en su escala de 10 puntos de calidad de código que el código que no las contenía. “¡Mi reacción fue que esto es genial!” dijo Stamatakis. Con frecuencia se encuentra maldiciendo su propio código, aunque tiende a no documentar sus arrebatos en el texto. No obstante, se pregunta si sus cursos pasados ​​pueden ayudarlo a progresar en su carrera: «¡Tal vez eso me ayudó a convertirme en profesor titular!» él dijo.

Los psicólogos saben desde hace mucho tiempo que jurar puede aliviar el dolor, aumentar el rendimiento físico y ayudar a las personas a moldear su personalidad. De hecho, el psicólogo cognitivo Benjamin Bergen de la Universidad de California en San Diego, autor del libro, What the F: Lo que las palabrotas revelan sobre nuestro lenguaje, nuestro cerebro y nosotros mismos—se asegura de maldecir una vez durante cada conferencia universitaria que imparte (de una manera que es poco probable que ofenda a la clase) porque hay evidencia de que las blasfemias, cuando se usan estratégicamente, pueden aumentar la participación de los estudiantes.

Pero el vínculo entre jurar y la calidad del código no se ha examinado antes, hasta donde sabe Bergen, y la sugerencia de que existe una conexión es una «idea muy emocionante e interesante», dijo.

El poder de la personalidad

Los programadores que juran pueden estar más comprometidos emocionalmente con su trabajo que los que no lo hacen, planteó la hipótesis de Bergen, lo que podría llevarlos a producir productos de mayor calidad. Alternativamente, los programadores pueden incluir blasfemias para divertir o sorprender a las personas que leen su código, y si esperan que se lea su código, pueden hacer un esfuerzo adicional. Es probable que decir palabrotas sea un «síntoma de algo más profundo», dijo Bergen, y le gustaría que el trabajo futuro se centre en la causa subyacente de la asociación.

El ingeniero de software Greg Wilson, que ahora trabaja en la empresa de biotecnología Deep Genomics, no se sorprende al ver que las personalidades de los codificadores entran en su trabajo a través de la selección de palabras. Wilson cofundó una organización llamada The Carpentries que enseña a los científicos a convertirse en buenos codificadores y dice: «No conozco a nadie que sea bueno en algo que se deje fuera».

Wilson está emocionado de ver a los investigadores abordar la cuestión de qué hace que el código sea bueno, aunque los resultados de Strehmel son preliminares. Los programadores van a la zaga de otras disciplinas en términos de cómo evalúan su propio trabajo, dice. A diferencia de los arquitectos, que tienen formas matizadas de describir por qué un edificio es hermoso, los programadores “pueden decir que algo es una solución elegante y luego nos quedamos sin palabras”.

Sin embargo, le preocupan los impactos que pueden tener las blasfemias si parecen estar dirigidas a los programadores junior. El lenguaje agresivo se ha citado como un factor que desalienta a las personas, especialmente a aquellas de grupos que están marginados en STEM, de continuar trabajando en ingeniería de software. Strehmel y Stamatakis se encontraron con las calumnias ocasionales en el código que analizaron, y están de acuerdo en que hay líneas que los programadores no deberían cruzar. En cierto punto, “deja de ser divertido”, dijo Stamatakis.

Sin embargo, en general, los investigadores están disfrutando de su trabajo y tienen una larga lista de experimentos planeados para reforzar los resultados y obtener información adicional. Cuando estén listos para lanzar su producto final, Wilson espera ver el mensaje de compromiso. Se imagina que dice: «¡Mierda, funcionó!»

Saima Sidik es una escritora científica independiente con sede en Somerville, Massachusetts. Cuando no está escribiendo, disfruta andar en bicicleta por la ciudad, aprender fotografía y practicar taekwondo.

Un papel (se abre en una pestaña nueva) por investigadores de la Universidad de Stanford descubrió que los codificadores que emplearon asistentes de inteligencia artificial como GitHub Copilot y Facebook InCoder en realidad terminaron escribiendo código menos seguro.

Además, estas herramientas también inducen a los desarrolladores a una falsa sensación de seguridad, y muchos creen que producen un mejor código utilizando la ayuda.