speculative execution

Определение

Техника процессоров (CPU), при которой предсказывается исход условного перехода и начинается выполнение одной из веток до проверки условия. На GPU для LLM неэффективна из-за отсутствия сложного branch prediction.

Где встречается

• 711. Как работает speculative execution на GPU для LLM (branch prediction)
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление