Авторы популярного фреймворка выпустили кроссплатформенный инструмент, позволяющий запускать и обучать модели на локальном оборудовании.
Unsloth Desktop работает на Windows, macOS и Linux, поддерживает форматы MLX, GGUF, а также диффузионные модели для генерации изображений, аудио и видео.
Движок оптимизирован под широкий парк железа, включая обычные CPU и мульти-GPU конфигурации от NVIDIA, AMD, Intel и Apple.
Приложение может напрямую подключать агентов Claude Code, OpenAI Codex, Hermes Agent, OpenClaw и OpenCode к локальным LLM.
Для процессов дообучения Unsloth обещает двукратный прирост скорости при снижении VRAM на 70%.
Из коробки приложение предлагает приватный веб-поиск, RAG, поддержку стандарта MCP, а также экспорт весов в форматы NVFP4 и GGUF.
Проект полностью открыт в репозитории на Github, там же можно найти установочные файлы под каждую из заявленных ОС и набор готовых ноутбуков для инференса и обучения популярных моделей.
Документация - на сайте Unsolth.
@ai_machinelearning_big_data
#news #ai #ml