expandable_segments

Определение

Опция PyTorch 2.0+, позволяющая аллокатору расширять существующие сегменты памяти для снижения фрагментации.

Где встречается

• 452. Как вы управляете memory fragmentation при длительном раннинге LLM сервера
• 846. Как дебажить memory fragmentation в LLM сервере

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление