Peak memory
Peak memory
Определение
Максимальный объём памяти (RAM или VRAM), используемый процессом во время обучения или инференса; отслеживается для оптимизации ресурсов.
Где встречается
- 463. Что такое activation recomputation (checkpointing) и зачем оно нужно
- 52. Настроить RWKV для инференса
- 215. Настроить expert parallelism для Mixtral
- 244. Fine-tune QLoRA на 1 GPU