У Яндекса теперь новая суверенная языковая модель - Alice AI Foundation LLM

🔹Модель работает с длинными текстами до 128 000 токенов на уровне лидеров рынка. При этом Яндекс сократил затраты на подготовку данных: предварительные фильтры отбирают документы до ресурсоёмкой проверки, благодаря чему объём вычислений уменьшился в десятки раз при сохранении около 95% полезных документов.

🔹Модель заточена под русский язык. Особенно хорошо справляется с запросами о русской культуре, языке, литературе, истории, медицине и праве. В тестах на написание кода модель обгоняет решение от NVIDIA, а в олимпиадных задачах по математике идет в паритете с моделью от Alibaba.

Кстати, Alice AI Foundation LLM использоваться как претрейн для дальнейшего дообучения под бизнес-продукты или исследовательские задачи. Открытая лицензия позволяет применять её в коммерческих и научных проектах.

@kstati_p