Поиск
- wikicanary deployment
# canary deployment ## Определение Стратегия постепенного развёртывания новой версии модели или промпта, при которой на начальном этапе трафик перенаправляется на новую…
- answerКак вы проектируете on-call ротацию для AI сервиса?
…Как вы тестируете агента на «неожиданные input» (не только adversarial, но и просто странные)\|395]] | Деплоймент и откаты | --- ## Навигация (Obsidian…
- answerЧто такое autoscaling inference и как его настроить?
…Разделяйте модели на разные деплойменты: для агентов и для обычных RAG-запросов — разные HPA с разными политиками. 6. **Автоматически выключайте…
- answerКак вы обновляете embedding модель без полной переиндексации?
…Начинаем маршрутизировать часть запросов к новому индексу ([[Вики/canary deployment\|canary-деплоймент]]). Мониторим метрики ([[Вики/quality\|quality]] [[Вики/retrieval\|retrieval…