burst allowance

Определение

Разрешение кратковременных всплесков трафика, реализуемое через механизм token bucket. Позволяет временно превышать средний лимит запросов.

Где встречается

• 829. Что такое rate limiting на уровне API Gateway для LLM

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление