Attention-map
Attention-map
Определение
Attention-map (карта внимания) — это визуализация весов внимания, которые модель присваивает различным токенам входной последовательности при генерации выходных данных. Она показывает, на какие части входных данных модель «смотрит» в первую очередь при принятии решений. Анализ attention-map помогает выявить, что модель может полагаться на высокочастотные стоп-слова, характерные для конкретного автора, что указывает на возможное переобучение.