GPU Inference

Определение

Процесс выполнения предсказаний обученной модели на GPU. Является основным источником вычислительных затрат для LLM-продуктов.

Где встречается

• 145. Сделать финансовую модель LLM-продукта

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление