7+ основных форматов точности, используемых в ИИ:
▪️ FP32
▪️ FP16
▪️ BF16
▪️ FP8 (E4M3 / E5M2)
▪️ FP4
▪️ INT8/INT4
▪️ 2-bit (ternary/binary quantizatio / троичное/двоичное квантование)
Общая тенденция: более высокая точность для обучения, более низкая точность для вывода.
Post #2833
2.08K
- 👍 7
- ❤ 5
- 🔥 3
- 🤮 1
- 🤣 1