Давка кэша в C#: почему ConcurrentDictionary и MemoryCache не спасают

В статье показано, как cache stampede приводит к многократным тяжёлым запросам, приведены бенчмарки для IO/CPU-bound задач и сравнение с HybridCache, а также предложены подходы для защиты кэша. Давка кэша в .NET: чем опасны ConcurrentDictionary и MemoryCache

В статье показано, что GetOrAdd и GetOrCreateAsync не гарантируют единичный вызов тяжёлой операции; HybridCache защищает внутри процесса, но не между репликами. Практические рекомендации по выбору и обходам проблемы. Как уменьшить давку кэша: джиттер TTL и Single Flight

В статье предлагают добавлять случайный джиттер к TTL (FusionCache поддерживает это) и применять паттерн Single Flight на уровне L2, чтобы только одна реплика обновляла тяжёлые данные. Автор не нашёл готовых библиотек.

Читать подробнее: https://habr.com/ru/articles/977498/

#ru

@dot_net_c_sharp | Другие наши каналы