Meta ha lanzado oficialmente Code Llama, una nueva LLM (Modelo de Lenguaje del Lenguaje) de código abierto para completar, generar y probar código. Este modelo, que puede ejecutarse en hardware local, está disponible de forma gratuita tanto para uso de investigación como comercial. Code Llama es una versión especializada del LLM gratuito de Meta, Llama 2, y ha sido entrenado con 500 mil millones de tokens de código y datos de programación. Viene en tres tamaños de parámetros diferentes: 7 mil millones, 13 mil millones y 34 mil millones. Aunque el modelo de 34 mil millones de parámetros es el más preciso, los modelos de 7 mil millones y 13 mil millones son más rápidos y pueden ser más beneficiosos para demandas de baja latencia. Además, Meta ha lanzado dos modelos ajustados llamados "Code Llama - Python" y "Code Llama - Instruct". Code Llama - Python ha sido entrenado en 100 mil millones de tokens de Python para generar código en ese lenguaje con mayor precisión, mientras que Code Llama - Instruct ha sido entrenado en 5 mil millones de tokens para generar respuestas o código basado en preguntas en texto plano. Aunque el modelo generalista Llama 2 puede usarse de manera similar, no es tan preciso en sus respuestas de código debido a que no ha sido sometido a los mismos pasos de ajuste fino que Code Llama.