月之暗面放出 Kimi K3 完整权重后,社区迅速跟进。一个名为 Deltafin 的小型研究项目已支持在 Apple Silicon Mac 上本地运行 Kimi K3(2.8 万亿参数),相关帖子登上 Hacker News 首页。
该项目让开发者能在 M1 Max 等 Mac 设备上加载并推理 Kimi K3 模型。不过实测速度约 0.3 token/秒,实用性有限,更多是验证了在消费级硬件上运行超大规模模型的可能性。HN 讨论区对此评价两极分化,一方认为这是技术突破,另一方质疑实际价值。
对关注本地大模型部署的开发者而言,Deltafin 展示了 MoE 架构在资源受限设备上的潜力,但当前速度远不足以替代云端推理。项目仍处于早期研究阶段。
GitHub
#GitHub #开源 #KimiK3 #Deltafin #月之暗面 #AppleSilicon #Mac #本地推理 #MoE #大模型
@GitHubTrendingHub