从 TensorSharp 视角解读 Ternary Bonsai 2 27B:当 1.72 比特的权重遇上 Hadamard 变换
Ternary Bonsai 2 27B 代表了低比特推理的一个真实拐点:压缩本身已经足够好(98.2% 保留率、1.72 有效位宽),瓶颈转移到了运行时基础设施:变换契约、格式转码、kernel 融合、验证方法学
cnblogs.com • Sep 26, 2026
Post #3805
2

博客 博客园 - 开发者的网上家园 @cnblogs_com · 132 subscribers 