no_split_module_classes

Определение

Параметр Accelerate, указывающий модули, которые не должны разделяться между устройствами; используется для предотвращения разрыва экспертов при экспертном параллелизме.

Где встречается

• 215. Настроить expert parallelism для Mixtral

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление