immers.cloud | Облако с GPU

Как быстро проверять AI-гипотезы без отдельного GPU-сервера под каждый PoC?

👋 IBS занимается исследованиями и разработкой в области искусственного интеллекта. Команда запускает fine-tuning, тестирует пайплайны, создает прототипы сервисов и разворачивает прикладные AI PoC.

🎯 Компании был нужен единый управляемый GPU-контур для AI R&D, production API и проверки новых сценариев.

🌳 До перехода на единый AI-контур в immers.cloud команда сталкивалась с нехваткой свободной GPU-песочницы, долгой подготовкой инфраструктуры под новые PoC и необходимостью выделять отдельный сервер под каждую задачу.

🔁 Решением стал единый AI-контур в immers.cloud.

Для проекта развернули инфраструктуру под смешанную AI-нагрузку:
— GPUStack для управления моделями и инстансами;
— vLLM для высокопроизводительного запуска LLM;
— 1 control plane и 4 GPU worker-узла;
— конфигурации 2 × A100 80GB, 2 × 4 × RTX 3090 24GB, 1 × RTX 4090 24GB;
— локальное хранение данных внутри приватного контура;
— корпоративный доступ через VPN;
— изолированный публичный прокси;
— централизованный сбор метрик, алертинг и логирование.

Что это дало команде:
— единый R&D AI API-контур для экспериментов;
— подключение новых PoC за часы, а не дни;
— не нужно выделять отдельный GPU-сервер под каждый кейс;
— проще подключать новые команды;
— контур стал наблюдаемым и предсказуемым.

📲 В карусели — как IBS перешла от точечных GPU-решений к единой модели работы с AI-инфраструктурой.

➡️ Полный разбор кейса.

☁️ Если вашей команде нужен управляемый GPU-контур, в immers.cloud можно спроектировать инфраструктуру под конкретные задачи и требования к доступу.

Kimi K2.6: что улучшили в новой версии

👋 По базовой архитектуре модели близки: обе используют MoE-подход, имеют 1 трлн параметров, 32 млрд активных параметров на токен, 384 эксперта и контекстное окно 256K токенов.

⚙️ Главное отличие Kimi K2.6 — не в новой архитектуре, а в более сильной настройке под инженерные задачи.

Что важно:
▪️ Работа с кодом
Подходит для задач, где модель должна не просто написать отдельный фрагмент кода, а долго работать с проектом: читать кодовую базу, искать ошибки, исправлять логику, использовать инструменты и проверять результат.

▪️ Instruction following
Улучшена способность модели точнее следовать заданию пользователя, удерживать контекст и выполнять многошаговые инструкции.

▪️ Self-correction
Улучшение способности модели находить и исправлять собственные ошибки в процессе выполнения задачи. Это особенно важно для агентных сценариев, где модель работает не одним ответом, а через последовательность действий.

▪️ Tool use
Kimi K2.6 сильнее в задачах, где нужно использовать внешние инструменты: терминал, браузер, API, редактор кода, файловую систему, базы данных или другие сервисы.

▪️ Agent workflows
Модель лучше подходит для автономных сценариев, где AI-агент получает цель, разбивает её на шаги, проверяет промежуточные результаты и продолжает работу.

📲 Подробнее — в слайдах.

➡️ Kimi K2.6 относится к классу крупных MoE-моделей, поэтому для запуска потребуется серьёзная GPU-инфраструктура уровня не ниже 6 видеокарт NVIDIA H200.

🚀 В immers.cloud модель можно запустить из каталога и использовать в собственных продуктах без долгой настройки инфраструктуры.

OpenCode берет часть разработки на себя
👋 Пока одни используют ИИ как чат для подсказок по коду, OpenCode работает иначе:

— анализирует контекст всего проекта, а не только отдельный фрагмент кода;

— может читать, создавать, редактировать и удалять файлы в директории проекта;

— запускает bash-команды, тесты и сборку, чтобы проверять результат;

— поддерживает разные модели через API OpenAI, Google, Anthropic, Ollama, LM Studio и встроенный роутер;

— работает в двух режимах: build для внесения изменений и plan для безопасного анализа без правки файлов.

📲 В карусели показали, как OpenCode отличается от обычных чат-ботов и IDE-плагинов, кому он подходит и как помогает в реальной разработке.

🚀 Для быстрого старта можно развернуть OpenCode через готовый образ в immers.cloud и сразу приступить к работе.