Short-term memory

Определение

Краткосрочная память (Short-term memory), также известная как in-context buffer или short-term buffer, — это механизм хранения последних сообщений или токенов, которые подаются непосредственно в контекст модели. В типичных реализациях это последние ~20 сообщений или около 8K токенов. Она используется для обеспечения актуального контекста при взаимодействии с моделью.

Где встречается

• 936. Как вы храните историю чата для long-term памяти агента (сжатие, суммаризация, в)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление