RAG-префикс
RAG-префикс
Определение
RAG-префикс — статичная часть промпта, содержащая основные инструкции и контекст, которая может быть кэширована для ускорения генерации и снижения затрат. Используется в RAG-системах для оптимизации работы LLM.
RAG-префикс — статичная часть промпта, содержащая основные инструкции и контекст, которая может быть кэширована для ускорения генерации и снижения затрат. Используется в RAG-системах для оптимизации работы LLM.