LPDDR5X

Определение

Тип оперативной памяти CPU в архитектуре NVIDIA Grace Hopper, используемый для быстрого хранения KV cache при инференсе LLM.

Где встречается

• 709. NVIDIA Grace Hopper CPU-GPU unified memory, как это меняет LLM serving

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление