«Яндекс» с нуля разработал языковую модель на 80 млрд параметров

«Яндекс» представил суверенную языковую модель Alice AI Foundation LLM, обученную с нуля.

Ключевые характеристики разработки

🔹 80 млрд параметров, из которых активны 3 млрд
🔹 обучение на 18 трлн токенов
🔹 открытые настроенные параметры, позволяющие разработчикам самостоятельно запускать и дообучать модель
🔹 лицензия допускает свободное использование в коммерческих и исследовательских проектах

Модель позиционируется как более крупная и универсальная разработка компании. Она должна стать основой будущей рассуждающей модели «Яндекса» и агентных возможностей «Алисы AI».

Цель разработки — создание собственной технологической базы для дальнейшего развития «Алисы AI».

📲Подписывайтесь на канал ЦИПР в MAX.