галлюцинации

Определение

Состояние, при котором языковая модель генерирует факты или утверждения, не соответствующие действительности или входным данным; ключевая проблема для надежности LLM и RAG-систем.

Где встречается

• 53. Как вы проектируете промпт для агента с инструментами
• 62. Какие метрики вы мониторите для LLM в production
• 118. Как вы проверяете, что LLM правильно «понял» диаграмму, а не просто угадал
• 149. Как спроектировать агента, который может самоисправляться (self-correction)
• 181. В чем проблема «natural language bottleneck» для LLM
• 196. Как language representation связан с тест-тайм компьютингом
• 373. Что такое learning-to-rank (LTR) и как он применяется к retrieval для LLM
• 381. Как вы определяете SLO и SLA для LLM сервиса
• 393. Как вы измеряете «cost of reasoning» у агента (не только токены, но и шаги, время, ошибки)
• 514. Как вы генерируете synthetic данные для instruction tuning
• 674. Что такое logit lens (интерпретация скрытых состояний)
• 679. Что такое repetition penalty и как он работает
• 695. Как вы делаете synthetic data для multi-turn диалогов (агентов)
• 696. Что такое active learning для сбора синтетических данных
• 729. Как LLM используются для code generation с формальной верификацией (Dafny, Lean)
• Практика
• 800+ вопросов
• 271. Реализовать synthetic eval для агента

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление