Multi-turn
Multi-turn
Определение
Сценарий с несколькими последовательными обменами сообщениями между пользователем и моделью. Контекст растёт с каждым шагом, что требует эффективного управления KV cache для быстрого инференса.
Где встречается
- 29. Как fine-tune модель для следования сложным инструкциям
- 38. Как вы fine-tune модель для функции вызов внешнего API
- 159. Как speculative decoding взаимодействует с KV cache
- 206. Что такое KV cache reuse в multi-turn диалогах и как его реализовать
- 345. Как вы проектируете red teaming evaluation для jailbreak устойчивости
- 695. Как вы делаете synthetic data для multi-turn диалогов (агентов)
- 789. Как тестировать multi-turn диалоги агента
- 154. Протестировать multi-turn диалоги
- 218. Настроить prompt caching (Anthropic style)