cost per 1M tokens
cost per 1M tokens
Определение
Базовая метрика стоимости инференса, публикуемая провайдерами отдельно для input и output токенов, используется для сравнения моделей.
Где встречается
- 783. Как сравнивать cost efficiency разных LLM провайдеров
- Практика
- 71. Рассчитать cost per 1M tokens для разных моделей