Обожаю ревьюить конфы по ML-ю.
Чуваки в одной статье утверждают, что они первые придумали mixed-precision квантизацию 🤣.
А еще хвастаются тем, что с 2.7 бит в среднем на параметр бьют бейзлайны по качеству с 2 битами на параметр.
И замеряются на 1-ой Llama в 2026 году.
Post #731
2.23K
- 🤣 44
- 👏 7
- 😱 4
- 🤔 2
- ❤ 1