🛡 Rate Limiting, часть 3: распределённый лимит через MySQL

Итак, проблема простая: встроенный rate limiter считает in-memory. Каждый под живёт своей жизнью и ведёт свой счётчик. Юзер с лимитом в 10 запросов спокойно делает 20 — по 10 на каждый под (дикпик 1).

Итак, как сделать рейт-лимиты распределенными? И да, тут я изучал как это сделать через MySQL потому что у нас сейчас в работе MySQL, запросов пока что не очень много, и раздувать зависимости не хочется. Короче, обстановка позволяет такой эксперимент, а если что, не проблема первое время пожить с InMemory, а потом переехать на что-то более быстрое.

Так вот, я не нашел каких-то решений, которые бы имплементировали бы распределенную блокировку FixedWindow на MySQL из коробки. Но, как оказывается эта задача решается довольно понятно. Непросто, но хотя бы понятно.

🩳 Если говорить коротко, то вам нужно реализовать наследника для базового класса RateLimiter. Там есть пара методов, которые нужно заоверрайдить, но наверное самый главный – это AcquireAsyncCore. Который и будет выполнять чтение из базки.

🏓 Таблица в базке простая: ключ партиции (юзер/IP), ID окна, счётчик запросов и время истечения (дикпик 2).

Вся магия в INSERT ON DUPLICATE KEY UPDATE. Один SQL-запрос атомарно либо создаёт запись со счётчиком 1, либо инкрементит существующий. Если окно истекло — сбрасывает счётчик. Никаких транзакций, никаких локов — InnoDB сам разруливает на уровне строки (дикпик 3).

Реализованный класс со всеми запросами можно глянуть вот тут.

Дальше подключаем через extension method — по сути также как и встроенные лимитеры (дикпик 4). Для приложения ничего не меняется, просто теперь счётчик общий на все поды.

Опять же, MySQL тут мегаспорное решение. И тут конечно надо бы посоветовать Redis или что-то такое. Но думаю, что полезно просто узнать об этом подходе. Что вообще есть этот RateLimiter и что в целом его можно довольно быстро заимплементить на любом доступном хранилище.

🅰️ Итого: если вам нужен рейт-лимитер, то мы можете заюзать стандартную библиотечку. Если нужно сделать лимитер распределенным, то это тоже можно, нужно всего лишь корректно реализовать класец RateLimiter

#csharp #ratelimiting