Что такое SHAP и зачем он нужен?
Classic MLУровень: БазаClassical machine learning
Что такое SHAP и зачем он нужен?
Подсказки
- Сформулируйте задачу, входные данные и то, что модель должна предсказывать.
- Сравните метод с простым baseline: допущения, функция потерь и независимая проверка.
Ответ
SHAP присваивает признакам вклад в конкретный прогноз на основе значений Шепли из теории игр — усреднённых предельных вкладов в разных коалициях признаков. Он даёт локальное объяснение отдельного объекта, а агрегирование по выборке позволяет оценить глобальную важность. Это объяснение поведения модели, а не автоматически причинный эффект признака.
Источник и лицензия: Ishan Dutta — Awesome Data Science Interview Q&A · MIT · перевод: Quantoros