S-LoRA

Определение

S-LoRA — система, предложенная Chen et al. в 2023 году, предназначенная для эффективного обслуживания множества LoRA-адаптеров без перезагрузки базовой модели. Она решает проблему мультиадаптерного обслуживания, обеспечивая низкую задержку переключения и высокую пропускную способность при одновременной работе с разными адаптерами.

Где встречается

• 959. Как деплоить несколько LoRA адаптеров без перезагрузки базовой модели (Punica, S-LoRA)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление