CostTracker

CostTracker

Определение

Компонент Harness для учёта токенов и стоимости вызовов LLM. Реализуется как декоратор или контекстный менеджер, оборачивающий вызов модели и логирующий количество токенов.

Где встречается

Навигация