multi-turn scenarios
multi-turn scenarios
Определение
Сценарии с несколькими последовательными запросами между агентами или между пользователем и агентом. Влияют на взаимодействие с KV cache при speculative decoding.
Сценарии с несколькими последовательными запросами между агентами или между пользователем и агентом. Влияют на взаимодействие с KV cache при speculative decoding.