Сжать модель до 2–3 бит несложно. Гораздо сложнее не потерять при этом качество.
Как мы справились с этим в методе HARP, который покажем на EMNLP, читайте в посте.
А совсем скоро вернёмся с подробным разбором статьи 🔍
https://t.me/miptru/11515
Post #332
575
Про нас тут в официальном канале МФТИ рассказывают 👉👈
А совсем скоро вернёмся с подробным разбором статьи 🔍
https://t.me/miptru/11515
Telegram МФТИ — Физтех Нейросеть? Упакуйте две, пожалуйста! 📦
В МФТИ создали алгоритм HARP, который улучшает качество экстремально сжатых языковых моделей. Разработка позволяет моделям уровня Llama и Qwen работать в 2 раза быстрее без потери информации — эффективнее, чем при стандартном… А совсем скоро вернёмся с подробным разбором статьи 🔍
https://t.me/miptru/11515
- 🔥 18
- ❤ 10
- 👍 4
- 🤯 2
- 😁 1