allocated_bytes / reserved_bytes

Определение

Отношение выделенной памяти к зарезервированной; используется для диагностики фрагментации памяти в LLM-сервере.

Где встречается

• 846. Как дебажить memory fragmentation в LLM сервере

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление