На экспериментальной версии Alice AI Foundation LLM «Яндекс» тестирует архитектурные решения для своей будущей единой рассуждающей модели (ЕРМ). ЕРМ станет основой для агентных возможностей «Алисы AI», с помощью которых пользователи смогут поручать ей выполнение конкретных действий.

Качество модели

Alice AI Foundation LLM использует архитектуру MoE (Mixture of Experts). Она содержит 80 миллиардов параметров, но для обработки запроса задействует только три миллиарда. Это позволяет обеспечить высокую скорость работы и сэкономить затраты на вычисления.