gRPC RESOURCE_EXHAUSTED

Определение

gRPC-статус, сигнализирующий о превышении ресурсных лимитов (например, памяти или GPU) и используемый для реализации обратного давления (backpressure) в LLM-пайплайнах.

Где встречается

• 429. Что такое end-to-end backpressure в LLM пайплайне и как его реализовать

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление