KernelSHAP
KernelSHAP
Определение
KernelSHAP — это метод интерпретации предсказаний модели, основанный на Shapley values. Он использует аппроксимацию с помощью локальной линейной модели (LIME-подобный подход), что позволяет оценивать вклад признаков для произвольной модели. В контексте NLP KernelSHAP применяется для объяснения решений текстовых классификаторов, показывая, какие слова или токены наиболее значимы для конкретного предсказания.