LLM
LLM
Определение
Нейросеть, обученная на огромных текстовых данных, способная генерировать и понимать текст; в RAG используется для генерации ответов и реформулирования запросов.
Где встречается
- 2 Как вы решаете проблему lost in the middle при работе с длинными контекстами
- 5. Как вы оцениваете качество retrieval'а в RAG-системе
- 8. Как вы обрабатываете запросы, на которые нет ответа в документах
- 16. Как вы оцениваете качество генерации в RAG. Назовите 3 ключевые метрики.
- 32. Как вы подготовите датасет для fine-tuning, если у вас только неструктурированные диалоги с клиентами
- 46. Какие инструменты (toolsfunctions) дать агенту для автоматизации бизнес-задач (ваш кейс!)
- 47. Что такое ReAct Agent и как он работает
- 59. n8n, Make, Zapier — как вы интегрируете их с LLM
- 60. Как вы обрабатываете ошибки агента (action не сработал, API вернул ошибку)
- 71. Как вы тестируете RAG-систему на новых документах без реальных пользователей
- 72. OpenAI vs Антропик vs Groq vs Self-hosted — что выбираете
- 74. Как вы мониторите дрейф данных (data drift) для RAG
- 78. Какие LLM для русского языка вы используете
- 80. Какие 3 книгикурса вы рекомендуете по production LLM
- 83. Как спроектировать систему, где LLM должна работать с конфиденциальными данными (медицина, финансы)
- 89. Как вы спроектируете систему, которая может переключаться между разными LLM провайдерами без даунтайма
- 107. Объясните концепцию «программируемых промптов» (DSPy programs). Как это связано с MIPRO
- 109. Как вы бенчмарките DSPy против ручного промпт-инжиниринга в production
- 112. Как вы извлекаете логические отношения из диаграммы, а не просто текст
- 114. Что такое Layout-Aware Chunking и как он связан с мультимодальностью
- 127. Как вы проводите red teaming LLM-приложения Назовите 3 техники.
- 138. Что такое «оценка с подкреплением» (RLHF evaluation) и как она отличается от обычной
- 139. Как вы оцениваете cost-effectiveness LLM-пайплайна
- 140. Как вы проверяете, что новая версия модели не сломала старые кейсы
- 143. Как вы боретесь с «бесконечным циклом» агента в Agentic RAG
- 144. Как вы передаете состояние (state) между шагами агента
- 166. Назовите 7 production failure modes для agentic AI систем по PAEF (Pandey, 2026).
- 178. Чем отличается эвалюация LLM от эвалюации традиционных ML моделей
- 181. В чем проблема «natural language bottleneck» для LLM
- 183. Назовите 4 уровня языкового представления по Yang et al. (2026) и объясните разницу.
- 184. Почему естественный язык не подходит для сложного рассуждения
- 187. Как язык промпта (русский vs английский) влияет на схему рассуждения
- 192. Как вы оцениваете качество language representation для задачи
- 203. Tensor parallelism vs pipeline parallelism vs data parallelism — сравните для LLM инференса.
- 237. Что такое circuit breaker и как он применяется к LLM API вызовам
- 241. Как вы делаете distributed tracing для цепочки user → gateway → RAG → LLM → user
- 243. Как вы делаете blue-green deployment для RAG системы с zero downtime
- 245. Как вы делаете cache invalidation для semantic cache при обновлении знаний
- 247. Как вы проектируете multi-region active-active для LLM API
- 257. Как вы дедуплицируете документы перед индексацией в RAG