Запускаем огромную модель на 125 МИЛЛИАРДОВ параметров на обычной игровой видеокарте — вышел скилл Strata, который позволяет локально запускать гигантскую Qwen3.8-Flash-Next.

• Для запуска понадобится обычная видеокарта с 12 ГБ памяти;
• На RTX 5070 нейронка выдаёт 94 токена в секунду;
• Работает на Windows и Linux, плюс есть локальный API, совместимый с OpenAI и Anthropic — можно подключать приложения и агентов.

Забираем бомбу — Strata

#ИИ

🛜 Крутой VPN | Смс 💣 бомбер | Telegram Stars со скидкой 🌟