Post #944
1.78K
#开源项目
#人工智能
#Rust
llmfit 是一个轻量级的命令行工具,专门解决“我的电脑到底能跑什么模型”的痛点。它通过扫描系统的RAM、CPU以及显卡的显存,自动对比HuggingFace上的模型数据库,并根据量化精度、推理速度和上下文长度给出一份适配清单。它支持Ollama、llama.cpp、MLX等主流框架,让你在下载动辄几十GB的模型文件前,就能预判它在你的硬件上是丝滑运行还是直接崩溃。
#人工智能
#Rust
llmfit 是一个轻量级的命令行工具,专门解决“我的电脑到底能跑什么模型”的痛点。它通过扫描系统的RAM、CPU以及显卡的显存,自动对比HuggingFace上的模型数据库,并根据量化精度、推理速度和上下文长度给出一份适配清单。它支持Ollama、llama.cpp、MLX等主流框架,让你在下载动辄几十GB的模型文件前,就能预判它在你的硬件上是丝滑运行还是直接崩溃。
- 👍 12
- 🔥 3
- 👏 3
- ❤ 2
- 😁 2
- 🤔 2



