context truncation
context truncation
Определение
Механизм принудительного сокращения объёма контекста при превышении token budget, чтобы уложиться в лимиты модели.
Механизм принудительного сокращения объёма контекста при превышении token budget, чтобы уложиться в лимиты модели.