off-peak scheduling

Определение

Стратегия планирования batch-инференса на периоды с низкой стоимостью GPU, позволяющая снизить затраты.