Cold-start

Определение

Ситуация, когда модель или система сталкивается с недостатком данных или инициализацией, что приводит к искажению метрик (например, задержки первого запроса) или снижению качества (например, для новых документов в LTR).

Где встречается

• 188. Что такое «Schema-Activated In-Context Learning» (SA-ICL)
• 211. Как вы измеряете и оптимизируете TTFT (Time To First Token) и TPOT (Time Per Output Token)
• 216. Как вы делаете load testing для LLM endpoint Какие метрики ключевые
• 373. Что такое learning-to-rank (LTR) и как он применяется к retrieval для LLM
• 790. Что такое «canary testing» для агентов (10% трафика на новую версию)
• 825. Что такое autoscaling inference и как его настроить
• 74. Настроить auto-scaling для vLLM
• 195. Реализовать blue-green deployment для RAG

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление