TransformerLens

Определение

Инструмент для анализа внутренних состояний и паттернов внимания в Transformer-моделях, применяемый для выявления attention sinks и аномалий.

Где встречается

• 175. Как детектировать «объяснительно-решенческую декомпозицию»
• 286. Как вы детектируете и фиксите attention sinks в длинных контекстах

Навигация

• Индекс терминов
• Индекс разборов
• Оглавление