English translation is not available yet. Showing Russian content.
Redis-based rate limiter
Redis-based rate limiter
Определение
Реализация ограничения частоты запросов на основе Redis, используемая для backpressure в LLM пайплайнах.
English translation is not available yet. Showing Russian content.
Реализация ограничения частоты запросов на основе Redis, используемая для backpressure в LLM пайплайнах.