⚙️ Task.WhenAll не ограничивает число запросов

Если передать в Task.WhenAll тысячу задач обращения к API, он дождётся их завершения. Но ограничивать число одновременных запросов за вас не будет.

Когда нужно обрабатывать коллекцию с заданным параллелизмом, пригодится Parallel.ForEachAsync:

await Parallel.ForEachAsync(
    ids,
    new ParallelOptions
    {
        MaxDegreeOfParallelism = 8,
        CancellationToken = cancellationToken
    },
    async (id, token) =>
    {
        await LoadAsync(id, token);
    });

Здесь одновременно выполняются не более восьми обработчиков. Токен отмены передаётся внутрь каждой итерации. Поддерживается и источник IAsyncEnumerable.

⏬ Восемь обработчиков — не восемь запросов в секунду

Это ограничение конкурентности, а не rate limit. Если API разрешает фиксированное число запросов за минуту, нужен отдельный механизм ограничения частоты. И не делите один DbContext между параллельными итерациями: каждый обработчик должен работать с подходящим ему контекстом.

🔗 Источник

📍 Навигация: Вакансии • Задачи • Собесы

🐸 Библиотека шарписта

#sharp_view