summarization

Определение

Процесс сжатия больших документов или истории диалога в краткое резюме с помощью LLM. Используется для экономии контекстного окна и улучшения качества ответов в RAG и агентных системах.

Где встречается

• 14. Как вы обрезаете контекст, когда retrieved documents больше контекстного окна LLM
• 631. Как вы делаете длинный контекст для RAG (100k+ токенов в контексте)
• 635. Как работает RAPTOR (иерархическое суммирование для длинного контекста)
• 894. Как работает memory compression для агентов (long-term memory)
• 800+ вопросов
• 101. Реализовать Agent Loop с нуля
• 109. Настроить cost tracking для агента
• 132. Настроить cost tracking в production
• 254. Реализовать SLO для RAG

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление