SHAP
SHAP
Определение
Метод объяснения предсказаний моделей, основанный на значениях Шепли. Для LLM используется для атрибуции важности токенов и оценки устойчивости объяснений к возмущениям. Применяется в контексте requirement on transparency (EU AI Act).
Где встречается
- 262. Как вы проектируете feature store для ML фичей, используемых LLM
- 371. Что такое LambdaMART и как он используется для reranking в RAG
- 588. Что такое agent explanation fidelity (насколько объяснение соответствует реальному решению)
- 732. Что такое EU AI Act и как оно влияет на деплой LLM в production
- 800+ вопросов