Lossless

Определение

Свойство спекулятивного декодирования, при котором распределение выходных токенов целевой модели не изменяется.

Где встречается

• 164. Какие trade-offs между разными архитектурами speculative decoding

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление