Обратное давление и архитектура
(описание к предыдущему посту)

Обратное давление — ключевой элемент корректно работающей инфраструктуры.

Когда базы данных, очереди сообщений, пулы соединений или другие системы оказываются перегружены, как они справляются с нагрузкой?

Некоторые программы реагируют на перегрузку тем, что позволяют своим ресурсам исчерпаться, в результате чего система аварийно завершается (например, из‑за нехватки памяти — OOM). С точки зрения реализации такое поведение просто, но оно вызывает каскадные сбои, которые могут привести к полному выходу системы из строя и даже к потере данных. Это недопустимо!

Более удачный подход: каждый компонент оказывает обратное давление на своих клиентов. Обратное давление — это принцип, согласно которому программный сервис, обнаружив, что он достиг предела возможностей или приближается к нему (максимальное число соединений, полное использование доступных буферов памяти и т. п.), сообщает об этом клиентам — либо посредством явных сообщений, либо путём отказа в соединении. Иными словами, сервис защищает собственное состояние ценой снижения качества обслуживания или отказа в обслуживании некоторых клиентов.

Если серверные компоненты спроектированы с учётом сигналов обратного давления, неожиданные скачки нагрузки приводят лишь к снижению производительности, а не к полному отключению всей системы.