decoder-only model

Определение

Архитектура LLM, состоящая только из декодера (например, LLaMA), типичный объект профилирования GPU.

Где встречается

• 305. Как вы профилируете GPU utilization для LLM serving (nsys, ncu, nvprof)

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление