receptive field

Определение

Максимальная дистанция, на которую токен может влиять через цепочку слоёв; в моделях со sliding window attention растёт линейно с глубиной.

Где встречается

• 629. Как работает sliding window attention в Mistral и Longformer

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление