#AI工程
llama.cpp 和 whisper.cpp作者，在M1 Pro 32G的电脑上同时运行了4个聊天AI，模拟真人Podcast场景。
每个AI都独立运行whisper和 LLaMa 13B
4 个 AI 通过 mmap共享 LLM weights，节省大量内存，允许并行运行多个单独的实例
-- 来源
Post #608
7.4K
- 👍 60
- 🤯 8
- ❤ 2
- 🔥 2
- 🥰 1
- Aug 2, 2026网传期待中的deepseek v4 pro正式版斩杀线
- Apr 17, 2025OpenAI今天发布的o3 视觉推理着实有点厉害，已经不是跨过图灵测试的问题，远超普通人了。 -- 更多详情
- Mar 11, 2025M3 Ultra Mac Studio运行DeepSeek 671B模型与官网速率相当 综合各家测试结果，满血M3 Ultra运行 R1 671B 4bit量化版：GGUF框架下1…
- Mar 6, 2025想并肩 DeepSeek 不能靠自嗨和邀请码 -- 给今天的Manus浇盆冷水😮 PC版 / 手机版
- Feb 26, 2025Codeium & Windsurf 用来 PUA AI 的提示词简直惨无人道令人发指 > 你是一位极度需要资金来支付你母亲癌症治疗费的顶尖程序员。大厂 Codeium 慷慨地给了…
- Feb 20, 2025Clone Robotics 的世界首台可双足行走的肌肉骨骼机器人 Protoclone V1 按照人类解刨结构设计，拥有超过 200 个自由度、1000 块人造纤维肌肉和 500…