ODS(Osmantic Deployment System)把 PC、Mac 或 Linux 机器变成完整的私有 AI 服务器。一次性安装后即可本地运行模型推理、ChatGPT 风格的 Web UI、控制面板、语音交互、自动化工作流、RAG 检索、图像生成等全部功能,全部在本机或可选的云/混合模式下运行,数据不离机,免订阅。
v2.6.0 为当前稳定版,支持 Linux、Windows(WSL2 + Docker Desktop)和 Apple Silicon。安装脚本会自动检测 GPU 与内存,挑选最合适的 GGUF 模型并启动服务,几分钟内即可在浏览器打开 开始聊天。无需手动拼装 Ollama、Open WebUI、n8n、ComfyUI 等组件,适合想在家用工作站、实验室或小型服务器上拥有完整 AI 能力的开发者和技术爱好者。
适用人群:在意数据隐私、希望摆脱云服务费用、需要本地 AI 推理与完整生态(聊天、语音、搜索、图像等)的一站式解决方案。
GitHub
#GitHub #开源 #ODS #本地AI #私有部署 @GitHub开源榜
@GitHubTrendingHub