Value

Определение

В механизме внимания (attention) — вектор значений (V), взвешенная сумма которых с весами внимания формирует выход. Матрица V содержит информацию, извлекаемую из каждого элемента последовательности.

Где встречается

• 651. Как работает attention математически Выведите формулу scaled dot-product attention.
• 800+ вопросов

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление