галлюцинации
галлюцинации
Определение
Состояние, при котором языковая модель генерирует факты или утверждения, не соответствующие действительности или входным данным; ключевая проблема для надежности LLM и RAG-систем.
Где встречается
- 53. Как вы проектируете промпт для агента с инструментами
- 62. Какие метрики вы мониторите для LLM в production
- 118. Как вы проверяете, что LLM правильно «понял» диаграмму, а не просто угадал
- 149. Как спроектировать агента, который может самоисправляться (self-correction)
- 181. В чем проблема «natural language bottleneck» для LLM
- 196. Как language representation связан с тест-тайм компьютингом
- 373. Что такое learning-to-rank (LTR) и как он применяется к retrieval для LLM
- 381. Как вы определяете SLO и SLA для LLM сервиса
- 393. Как вы измеряете «cost of reasoning» у агента (не только токены, но и шаги, время, ошибки)
- 514. Как вы генерируете synthetic данные для instruction tuning
- 674. Что такое logit lens (интерпретация скрытых состояний)
- 679. Что такое repetition penalty и как он работает
- 695. Как вы делаете synthetic data для multi-turn диалогов (агентов)
- 696. Что такое active learning для сбора синтетических данных
- 729. Как LLM используются для code generation с формальной верификацией (Dafny, Lean)
- Практика
- 800+ вопросов
- 271. Реализовать synthetic eval для агента