Сегодня расскажу немного про локальные и облачные модели. Тема довольно нишевая - большинство спокойно работает с облаком, а для нормального локального запуска уже понадобится подходящее железо.
Но я пользуюсь обоими вариантами, поэтому решил поделиться, зачем вообще заморачиваться с локальной моделью.
Если коротко:
☁️ Облачная модель работает на серверах провайдера - отправили запрос, получили ответ. Сюда относятся те же GPT, Claude или Codex.
💻 Локальная модель скачивается и запускается прямо на вашем компьютере или сервере. Например, через Ollama можно поднять Qwen или другую подходящую модель и работать с ней внутри своей инфраструктуры.
Для агентов второй вариант особенно интересен. Можно не отправлять внутренние файлы во внешний API и заодно не платить за токены на каждой регулярной операции. Я, например, локально оставляю более простую работу с внутренними данными, а сложные задачи отправляю в облако.
Кстати, OpenClaw как раз упрощает работу с обоими вариантами.
На macOS он умеет находить уже настроенные подключения к облачным Claude и Codex, а также Ollama для локальных моделей. На Windows с NVIDIA RTX от 24 ГБ видеопамяти может определить железо и предложить подходящую локальную модель примерно 30B-класса.
🔸 Конечно, локально ≠ автоматически безопасно. Доступы агента к файлам, инструментам и системе все равно нужно нормально ограничивать.
Но сама возможность не гонять все задачи через одну облачную модель мне нравится. Где-то важнее возможности Claude или GPT, а где-то вполне хватает локальной модели, которая работает на своем железе и не отправляет данные наружу.
Короче, присмотритесь к этому варианту, если агенты уже разрастаются в ваших процессах.
Подробнее про новый установщик и локальные модели можно почитать в публикации OpenClaw.
#полезныеинструменты