English translation is not available yet. Showing Russian content.
cost estimator
cost estimator
Определение
Функция или модуль, предсказывающий стоимость ответа до отправки запроса к LLM. Используется для cost-aware кэширования и принятия решений о маршрутизации запросов.