Failure modes

Определение

Общий термин для типичных проблем (высокая задержка, ошибки, низкая утилизация), выявляемых при нагрузочном тестировании LLM endpoint.