«Яндекс» презентовала якобы собственную ИИ-модель, созданную не на базе другой нейросети

Компания выложила на Hugging Face веса Alice AI Foundation — новой языковой модели, которую, если верить «Яндексу», полностью обучили с нуля и без весов других нейросетей.

В модели 80 млрд параметров, но одновременно работают только 3 млрд (MoE-архитектура). Контекст — до 262 тысяч токенов.

Сейчас это базовая версия: её можно скачать и дообучить под свои задачи. В оригинальном виде модель требует около 160 ГБ видеопамяти, так что на обычной игровой видеокарте её не запустить

Летом Герман Греф говорил, что «Яндекс» якобы не делает свои модели с нуля, а просто дообучает китайский Qwen. Тогда «Яндекс» это отрицал.

@shifr