Qwen 3.8 Flash Next со скоростью 50+ ток/с в новом движке STRATA
Только сегодня делал пост про новый движок для запуска тяжелой MoE модели, как уже подоспели тесты.
Смотреть: https://www.youtube.com/watch?v=M0mMmUrHhP0
Приятного просмотра!
MrGips • Про LLM / НАШ ЧАТ
Post #211
717
MrGips • Про LLM 🚀 Появился новый движок Strata, который запускает огромную Qwen3.8 Flash Next даже на видеокартах с 12 GB VRAM Думаю вы уже знаете что Qwen3.8 Flash Next большая MoE-модель, которая требует очень много памяти. Но разработчик нового inference-движка Strata…YouTube Qwen 3.8 Flash Next на новом движке Strata выдает 50+ ток/с на RTX 5090 - Установка, запуск и тесты В этом видео я протестировал новый движок для запуска Qwen 3.8 Flash Next - Strata. И хочу сказать - это просто пушка! Движок https://github.com/Niko1221/Strata Подписывайтесь на телеграм-канал: https://t.me/ProComfy Характеристики ПК: Процессор: Intel…
- 🔥 19
- ❤ 4
- 👍 3