Cold-start
Cold-start
Определение
Ситуация, когда модель или система сталкивается с недостатком данных или инициализацией, что приводит к искажению метрик (например, задержки первого запроса) или снижению качества (например, для новых документов в LTR).
Где встречается
- 188. Что такое «Schema-Activated In-Context Learning» (SA-ICL)
- 211. Как вы измеряете и оптимизируете TTFT (Time To First Token) и TPOT (Time Per Output Token)
- 216. Как вы делаете load testing для LLM endpoint Какие метрики ключевые
- 373. Что такое learning-to-rank (LTR) и как он применяется к retrieval для LLM
- 790. Что такое «canary testing» для агентов (10% трафика на новую версию)
- 825. Что такое autoscaling inference и как его настроить
- 74. Настроить auto-scaling для vLLM
- 195. Реализовать blue-green deployment для RAG