Redis-based rate limiter
Redis-based rate limiter
Определение
Реализация ограничения частоты запросов на основе Redis, используемая для backpressure в LLM пайплайнах.
Реализация ограничения частоты запросов на основе Redis, используемая для backpressure в LLM пайплайнах.