1F1B with interleaving

Определение

Разбиение стадий pipeline на меньшие блоки для дополнительного уменьшения pipeline bubble.

Где встречается

• 426. Что такое 3D parallelism (data + tensor + pipeline)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление