client-side rate limiter

Определение

Механизм на стороне клиента, ограничивающий количество запросов к API для соблюдения лимитов провайдера.

Где встречается

• 65. Как вы обрабатываете rate limiting от LLM провайдеров (OpenAI, Anthropic)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление