ShardingStrategy

Определение

Параметр конфигурации FSDP, определяющий степень шардирования модели: FULL_SHARD, SHARD_GRAD_OP, NO_SHARD.

Где встречается

• 471. Как работает FSDP (Fully Sharded Data Parallel) в PyTorch

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление