Про топовую нейронку у себя дома.
Похоже, Llama 4 на какое-то время станет топом опенсорса. Рейтинги высокие, хотя я бы пока осторожно подходил бы к ним. Единственный конкурент - DeepSeek V3, но у ламы есть очень большое контекстное окно и скоро выйдет ризонинг модель (впрочем, как я понимаю, у DeepSeek тоже, будет интересное соревнование).
Теперь по практике - Llama Maverik запускается на двух машинках Mac Studio M3 Ultra 512Gb, Scout - на одной, для Begemoth потребуется десяток. Цена такой машинки в России 1 139 тыс. руб. Скорость - 23 токена в секунду, можно хитрить и разогнать в два раза. Вполне доступное корпоративное или даже домашнее решение с локальной нейронкой хорошего качества (хотя с качеством еще надо смотреть, первые отзывы - не очень).
Post #60
57