latency requirement

Определение

Метрика выбора режима инференса: жёсткие требования к задержке определяют необходимость online, а не batch обработки.