rolling cache

Определение

Техника для sliding window attention, позволяющая обрабатывать длинные контексты путем циклического буферизованного кэширования.

Где встречается

• 647. Как вы делаете long context для code generation (модель должна видеть весь репозиторий)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление