Tencent Hunyuan выложила в open source Hy-MT1.5-1.8B-1.25bit - офлайн-модель для перевода на мобильных устройствах размером всего 440 МБ. Поддерживает 33 языка и работает без интернета.
Базовая модель на 1,8B параметров по качеству сопоставима с коммерческими API для перевода и моделями масштаба 235B.
По бенчмаркам она обходит Google Translate и Baidu Translate.
Версия на 440 МБ достигает этого за счёт Sherry - разреженной тернарной квантизации 1.25-bit, принятой на ACL 2026. Схема такая: параметры группируются по 4, три хранятся в 1-bit, один зануляется. В среднем получается 1.25 bit на параметр.
Также доступна версия на 574 МБ с 2-bit SEQ-квантизацией: почти без потери качества и быстрее на устройствах с Arm SME2.
Android-демо уже доступно.
🤖 https://modelscope.cn/collections/AngelSlim/Hy-MT15-18b-quant
📄 https://modelscope.cn/papers/2601.07892
📄 https://modelscope.cn/papers/2512.24092
@pythonl
Post #5489
12.6K

- ❤ 19
- 🔥 6
- 👍 4