Два аналитика объясняют одного клиента с разными background-популяциями. Почему оба могут получить корректные, но…
Classic MLУровень: ПрактикаSHAP · TreeExplainer
Два аналитика объясняют одного клиента с разными background-популяциями. Почему оба могут получить корректные, но разные SHAP?
Подсказки
- Объяснение зависит от опоры, не только модели.
- Смена опоры может перераспределить вклады.
Ответ
Они отвечают на разные вопросы относительно популяции: меняются baseline и интегрирование отсутствующих признаков. Согласуйте background и предположения зависимости до сравнения как одной величины.
Источник и лицензия: SHAP · TreeExplainer · MIT · ответ: редакция Quantoros · перевод: Quantoros