中文翻译暂不可用，显示俄语原文。
Lost in the Middle
Lost in the Middle
Определение
Феномен, при котором LLM хуже запоминает и использует информацию, расположенную в середине длинного контекстного окна, что снижает качество ответов.
Где встречается
- 19. Как вы храните историю диалога в RAG для multi-turn QA
- 80. Какие 3 книгикурса вы рекомендуете по production LLM
- 198. Какие ограничения у language representation design
- 575. Как работает hierarchical planning для агентов (разбивка на подзадачи)
- 627. Как вы тестируете long-context capability модели (бенчмарки RULER, Needle in a Haystack)
- 631. Как вы делаете длинный контекст для RAG (100k+ токенов в контексте)
- 633. Как вы оцениваете reasoning capability (не просто recall) на длинном контексте
- 635. Как работает RAPTOR (иерархическое суммирование для длинного контекста)
- 636. Как вы проектируете промпт для long context рассуждения (CoT, ToT, GoT)
- 639. Как вы делаете model selection для long context (какая модель лучше держит 100k+)
- 644. Как вы оцениваете faithfulness ответа на длинном контексте (когда много информации)
- 645. Что такое hierarchical retrieval для long context RAG (когда контекст 100k)
- 653. Что такое position encoding RoPE vs абсолютные позиции vs относительные позиции
- 668. Что такое индуктивные biases трансформеров (positional invariance, order sensitivity)
- 872. Что такое calibration для LLM и как её измерять (ECE)
- 800+ вопросов