TGViewer
Machine learning Interview Machine learning Interview @machinelearning_interview · 30.3K subscribers
Post #3015 2.88K
🔥 Qwen3.8-27B Uncensored (Cyber/Agentic) теперь доступен в GGUF с калибровкой под реальные агентные задачи

Это не обычная квантизация на случайном английском тексте. Importance Matrix собрана на реальном agentic-coding трафике: tool calls, пути к файлам, shell-команды, JSON, commit hashes и смешанный Chinese/English.

Главное:

- 27B модель в GGUF
- IQ4_XS весит около 15 GiB
- контекст до 262K в протестированной конфигурации
- de-refusal / uncensored версия
- сохранены vision и MTP
- Apache 2.0
- заточена под coding, agents и cybersecurity-сценарии

Авторы отдельно тестировали сохранение точных путей, UUID и commit hashes — критично для агентов, где одна ошибка в символе ломает команду. IQ4_XS при этом оказался всего примерно на 0,42% хуже Q5_K_M по paired perplexity, но заметно компактнее.

Сам GGUF занимает ~15 ГБ, но реальное потребление VRAM зависит от context size, KV cache и offload - полный 262K контекст потребует существенно больше памяти.

https://huggingface.co/cyjin-yl/Qwen3.8-27B-Uncensored-Cyber-agentic-imatrix-GGUF
  • ❤ 10
  • 👍 7
  • 🥰 1
  • 🥱 1
More from @machinelearning_interview
  1. Sep 20, 2026💰 Инвесторы допускают оценку Anthropic в $4 трлн после IPO, но дешёвые модели усиливают д…
  2. Sep 18, 2026photo post
  3. Sep 18, 202617 сентября в Москве прошла AI R&D DAY — конференция для исследовательских команд и создат…
  4. Sep 18, 2026🔐 GPT-6 Astra предложила расшифровку немецкой радиограммы 1918 года Автор эксперимента по…
  5. Sep 18, 2026Сегодня последний день регистрации на КосмоХакатон 18–20 сентября, Петербург, Красноярск и…
  6. Sep 17, 2026🦀 GitHub переписал runtime GitHub Copilot на Rust — с помощью самого Copilot Изначально r…
Threads Profile ViewerView any public Threads profile without an account.Open ThreadLook →Writing with AI? Make it sound human.Metric37 rewrites AI drafts so they read naturally. Free AI detector, 1,500 words free.Try Metric37 →