🤩😀 Как устроена Машина искусственного интеллекта Скала^р

ИИ-инфраструктура — это «слоеный пирог» из ускорителей, драйверов, контейнерной среды, моделей и систем управления. Каждый стык нужно верифицировать и задокументировать.

🤩 Нижние слои отвечают за стабильность и производительность, верхние — за профиль нагрузки.

TAdviser разобрал этот комплекс на примере Машины искусственного интеллекта Скала^р от Группы Rubytech.

🤩 Вычислительные узлы и сеть
Сайзинг начинается с метрик будущего сервиса.

Кластер можно масштабировать от одного GPU-узла до 16 узлов полного цикла — по мере роста нагрузки.

🤩 Системное ПО
Приоритетная ОС — «Ред ОС», также подтверждена Astra Linux. Контейнерный кластер — на Deckhouse Kubernetes Platform. Обновления проверяются сразу в составе всего комплекса.

🤩 Управление ресурсами
Скала^р Спектр ИИ распределяет ресурсы между командами и изолирует задачи, повышая утилизацию GPU до 70–85% при подходящем профиле нагрузки (против 30–40% у разрозненных узлов).

🤩 Модели и прикладные инструменты

Машина протестирована с 80+ LLM и десятками ИИ-инструментов: GigaChat, YandexGPT, Qwen, Llama, DeepSeek, Mistral и другими.

Через каталог Спектр ИИ доступны RAG-системы, OCR/VLM, транскрибация и агентские платформы.

🤩 Такой подход позволяет наращивать ресурсы и набор инструментов по мере роста ИИ-задач — без полной перестройки инфраструктуры.