Запускаем 320-миллиардную нейронку прямо на домашнем ПК

GLM-5.3-Flash адаптировали для локального запуска через движок Strata – недавно на нём уже запускали Qwen3.8-Flash-Next, а теперь добрались до модели заметно крупнее:
Поддерживаются текст, изображения, разные режимы мышления, а установка сводится практически к одной команде.
Модель занимает от 95 ГБ на диске и рассчитана на запуск на обычных игровых видеокартах.
Есть совместимость с OpenAI- и Anthropic-совместимыми API.

Забираем – тут.

Technogram Inside