Volume Discount

Определение

Снижение стоимости одного запроса при увеличении объёма за счёт batch-эффектов и масштабирования; учитывается в финансовых моделях LLM-продуктов.