Packing

Определение

Packing (упаковка) — это техника эффективной обработки последовательностей разной длины при fine-tuning, при которой несколько коротких примеров объединяются в одну последовательность до достижения максимальной длины. Это позволяет избежать потерь вычислительных ресурсов на паддинг (дополнение нулями) коротких примеров и ускоряет обучение.

Где встречается

• 976. Как вы делаете fine-tuning на последовательностях разной длины (packing, dynamic batching)?

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление