متا اخیراً فعالیت‌های زیادی در زمینه هوش مصنوعی داشته است و پس از مدل هوش مصنوعی جدید Llama 2 و SeamlessM4T برای ترجمه عبارات به زبان‌های مختلف، حالا Code Llama را در دسترس عموم قرار داده است؛ یک سیستم یادگیری ماشینی که می‌تواند کدنویسی کند و درباره کدهای تولید شده خود توضیحاتی ارائه کند.
Code Llama که در چندین نسخه مختلف، مانند نسخه بهینه شده برای پایتون و نسخه مخصوص دستورالعمل‌ها ارائه شده، براساس مدل تولید متن Llama 2 ساخته شده است. در حالی که با کمک Llama 2 نیز می‌توان کدنویسی را انجام داد اما عملکرد آن مطمئناً با کدهایی که توسط مدل Copilot ارائه می‌شود، قابل مقایسه نیست.
هرچند متا در آموزش Code Llama از همان مجموعه داده‌هایی استفاده کرده که برای آموزش Llama 2 استفاده شده است اما Code Llama نسبت به مدل مادر، زمان بیشتری برای یادگیری روابط بین کد و زبان طبیعی داشته است. با این وجود، این مدل به‌طور خاص برای کدنویسی طراحی شده است و البته غول فناوری اشاره کرده که مدل کدنویسی‌اش ممکن است در برخی مواقع پاسخ‌های «نامناسبی» ارائه کند!