Unsloth 推出桌面应用，号称首个能本地运行和训练模型的桌面端工具。它支持 LLM、扩散模型、嵌入和音频模型，涵盖 Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4、FLUX 等，并兼容 CPU、NVIDIA、AMD、Intel、macOS 及多 GPU 环境。
对普通用户来说，桌面版免配置、开箱即用，Windows、macOS、Linux 均有安装包。开发者可用
unsloth start 一条命令把本地模型接入 Claude Code、Codex 等代理工具，也支持通过 OpenAI 兼容 API 对外提供服务。训练方面，Unsloth 宣称微调速度提升 2 倍、显存占用减少 70%，支持 LoRA、QLoRA、全量微调、强化学习（GRPO、DPO）及 FP8 量化。模型可导出为 GGUF、NVFP4 等格式，也能从 PDF、CSV 等文件构建数据集。
远程访问通过 Cloudflare HTTPS 隧道实现，默认仅本地监听，暴露公网前会强制要求修改管理员密码。Unsloth 采用 Apache 2.0 与 AGPL-3.0 双许可，核心包为 Apache 2.0，Studio UI 等可选组件为 AGPL-3.0。
本次更新还新增 AMD GPU 训练支持、GGUF 硬件控制（可指定 GPU/层放置、多 GPU 或张量并行），并适配 GLM-5.2、DeepSeek-V4 等新模型。对想本地跑大模型又嫌配置麻烦的用户，桌面版是更省事的选择。
GitHub
#GitHub #开源 #Unsloth #大模型 #本地部署 #微调 #LLM
@GitHubTrendingHub