Compression
Compression
Определение
Техника уменьшения размера контекста без потери важной информации, например, через суммаризацию или удаление избыточных фрагментов; применяется при приближении к лимиту контекстного окна или для снижения сетевого трафика между агентами.
Где встречается
- 14. Как вы обрезаете контекст, когда retrieved documents больше контекстного окна LLM
- 738. Назовите 12+ слоёв эталонной архитектуры Harness.
- 800+ вопросов
- 189. Реализовать compression сообщений