🔍 Ответочка от Яндекса.
Буквально месяц назад мы разбирали эпичный жабогадюкинг, когда Греф публично пояснил за ИИ Яндекса... что их ИИ это просто перекрашенная китайская Qwen.
Яндекс тогда промолчал, а на днях релизнул Alice AI Foundation LLM. которую написал с нуля. Без зарубежных компонентов. А это 100% суверенный статус по новому закону.
Что по спекам:
🟢 Модель имеет общий вес в 80 миллиардов параметров, но построена на архитектуре Mixture of Experts (Смесь экспертов). В момент генерации ответа активны всего 3 миллиарда параметров. Получается, что работа этой модели жрет сущие копейки аппаратных ресурсов. В условиях космических цен на серверное железо, эту нейросеть можно локально крутить с неплохой скоростью на одной обычной RTX 3090/4090 с 24 ГБ видеопамяти или на недорогих серверах без H100.
Сбер со своим неподъемным GigaChat на 432B параметров требует целую стойку железа, а Яндекс вполне влезет в сервер под столом.
🟢 Овертрейнинг...18 триллионов токенов 😮
Для модели в 80B параметров 18 триллионов токенов датасета это жесткое переобучение. Откуда дровишки? А походу это закон о легализации парсинга, принятый летом. Яндекс просто включил свои пылесосы на полную и высосал вообще всё что мог... весь Рунет, книги, GitHub, форумы, код. Модель получилась компактной, но невероятно эрудированной за счет того, что данные прогнали через нее кучу раз.
🟢 Открытая лицензия 😎
Вместо того чтобы закрыть модель за платным API, Яндекс выложил веса в опенсорс для коммерческого использования. Похоже на стратегию с Llama.
Сбер хотел монополизировать госсектор и КИИ, но Яндекс только что разрушил эту монополию. Выкатив открытые веса, Яндекс сделал грамотный ход. Теперь любой энтерпрайз, банк или завод может абсолютно легально, бесплатно скачать Alice AI Foundation, развернуть её в своем закрытом контуре без доступа в интернет и обучить на внутренних секретных документах. Никакой утечки корпоративных тайн на сервера Яндекса. Товарищ майор и ФСТЭК будут в восторге 👮♂️
Та компактность, над которой иронизировал Сбер - это на самом деле приговор. В 2026 году побеждает не тот, у кого больше параметров, а тот, чью модель бизнес легко может запустить на доступном по цене железе.
Типичный 🥸 Сисадмин
Post #29868
8.75K

- ❤ 82
- 👏 62
- 👍 35
- 💊 11
- 🌚 5
- 🔥 3
- 🤔 2