⚡️ Qwen3.8-27B Uncensored стала доступна в локальном варианте с калибровкой под агентные задачи — теперь это не просто нейронка БЕЗ цензуры, а реальная рабочая сила.
Так:
🔅 Модель 27B запускается локально в формате GGUF;
🔅 Метод квантизации — IQ4_XS. Просит в районе 15 Гб оперативы;
🔅 Контекст до 262K в протестированной конфигурации;
🔅 Сохранены способности работать с визуалом: пикчи, графики и тд;
🔅 В целом же модель заточена под работу с кодом и сценариями по кибербезопасности.
Хоть GGUF занимает около 15 Гб, реальное потребление VRAM зависит от размера контекста: все 262 тысяч токенов потребуют сильно больше памяти.
ИМБУ уже выкатили для бесплатного пользования на Hugging Face — тестим тут.
🙂 Не баг, а фича
Post #27844
21K

- ❤ 44
- 🔥 18
- 👍 7
- 👎 6
- 😁 3
- 🫡 3