Выжать из домашнего компа локальный AI
Куда все идет: каждый Opus деградирует со временем и всех это бесит.
Огромные счета на токены. Народ реально хочет хоть как-то на обычных компах своих локальную ИИ иметь. Вот даже видео гляньте комменты, где парень показывает принцип MoE model vs Dense model.
Все хотят потихоньку независимый оффлайн сетап для ИИ иметь, как я писал в одном из предыдущих видео.
А у вас как успехи? Какой у вас сетап поделитесь (ну типа Mac Mini M4 Pro 64GB unified memory + Qwen3.6 35GB A3B).
Кстати в этом видео парень показывает как выжать через Turboquant. Записал видосик короткий , не знаю надо ли обзор-мануал для вас снять?
Post #2194
4.45K