Strata

Strata — это движок для выполнения модели Qwen3.8-Flash-Next на потребительском оборудовании, обеспечивающий локальный API, совместимый с OpenAI и Anthropic, с возможностью обработки изображений.

Он поддерживает однокликовую установку на Windows и Linux, а также оптимизирован для работы на видеокартах NVIDIA серий RTX 30/40/50 с объемом памяти от 12 ГБ.

Движок эффективно распределяет нагрузку между GPU, RAM и SSD, позволяя запускать крупные модели на системах с ограниченными ресурсами.

Lang: C++
https://github.com/Niko1221/Strata
================
👁 News | 👁 Soft | 👁 Gear | 👁 Links