Accelerate

Определение

Библиотека Hugging Face для упрощённого распределённого обучения и инференса моделей. Позволяет легко конфигурировать device_map, шардирование и offload на нескольких устройствах.

Где встречается

• 215. Настроить expert parallelism для Mixtral
• 223. Fine-tune LoRA для стиля
• 235. LoRA для function calling
• 244. Fine-tune QLoRA на 1 GPU

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление