Яндекс выложил в опенсорс новую ИИ-модель, обученную с нуля

Яндекс представил Alice AI Foundation LLM — претрейн-версию своей большой языковой модели, обученной с нуля. Модель демонстрирует высокие результаты в программировании и рассуждениях, превосходя многие мировые аналоги по качеству ответов на русском языке, особенно в задачах на знание фактов, интересных русскоязычной аудитории.

Модель работает на архитектуре MoE и включает 80 млрд параметров, из которых активно 3 млрд, что обеспечивает скорость и экономичность. Она показывает высокую эффективность в сложных логических заданиях и программировании, а также обходит более крупные открытые модели на задачах, требующих широких фактических знаний.

Разработчики могут использовать модель в исследовательских и коммерческих проектах благодаря свободной лицензии Apache 2.0. Для оценки знаний, актуальных для русскоязычных пользователей, Яндекс разработал собственные бенчмарки WikiWebFacts и HardMultiQA, которые также выложены в открытый доступ.

@Runet