Масштабирование: основные типы

Что такое масштабирование? Какие виды вы знаете? - популярные вопросы на собеседованиях на позицию мидл и выше.

На практике нас волнует не абстрактная стратегия масштабирования, а вполне конкретный вопрос: как обеспечить тот же уровень сервиса, если нагрузка на систему вырастет.

Иногда достаточно просто поменять код. Например, добавить кэш и снизить нагрузку на БД. В итоге сервис обработает в 10 раз больше запросов, и этого улучшения хватит на несколько лет. Но это не масштабирование, а оптимизация.

При масштабировании считается, что с кодом всё отлично и мы упираемся в физические ресурсы. Процессор не справляется, память кончается и так далее. И вопрос становится более конкретным: как добавлять аппаратные ресурсы к текущей системе?

На самом верхнем уровне масштабирование делится на горизонтальное и вертикальное.

Вертикальное - запускаем сервис на более мощной машине. Даже если сервис разворачивается в облаке, этот вариант быстро становится дорогим и неоптимальным.

При горизонтальном нагрузка распределяется на несколько машин
✅ Отказ одного экземпляра не так страшен
✅ Пределы масштабирования гораздо шире
❌ Нужна инфраструктура для поддержки

В книжке Art of Scalability приводится концепт scale cube и три вектора горизонтального масштабирования:

🔸Horizontal duplication: несколько копий одного сервиса

✅ Простая реализация, нам нужен только балансировщик
❌ Запутанный код
❌ Тяжело обновлять версию сервиса
❌ Большие и перегруженные кэши

🔸Functional decomposition: делим монолит на микросервисы

Каждый сервис отвечает за небольшой функционал
✅ Простой и понятный код каждого сервиса
✅ Более специфичные и эффективные кэши
❌ Поделить монолит на отдельные сервисы и наладить общение между ними - чудовищно непросто
❌ Сложная инфраструктура

🔸Data partitioning или шардирование

Сервисы одни и те же, но каждый экземпляр работает на ограниченном количестве данных и своём экземпляре БД
✅ Отказы БД менее критичны
✅ Кэширование работает отлично
❌ Нужен компонент для перенаправления запросов
❌ Сложная логика работы с данными

На практике три подхода комбинируются в разных пропорциях.