English translation is not available yet. Showing Russian content.
Activation patching
Activation patching
Определение
Метод механистической интерпретируемости, заменяющий активации одного слоя на другой для выявления причинно-следственных связей.
Где встречается
- 193. Что такое «Clone-Structured Causal Graphs» (CSCG) и как они связаны со схемами
- 295. Что такое logit lens и как он помогает понимать внутренние представления
- 674. Что такое logit lens (интерпретация скрытых состояний)