inference_mode

Определение

Контекстный менеджер PyTorch, отключающий autograd для ускорения инференса и снижения потребления памяти.

Где встречается

• 51. Развернуть Mamba-2 локально
• 220. Настроить wave decoding для коротких ответов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление