Почему суммирование multiclass SHAP сразу по признакам и классам обычно неверно для проверки?
Classic MLУровень: ПрактикаSHAP · TreeExplainer
Почему суммирование multiclass SHAP сразу по признакам и классам обычно неверно для проверки?
Подсказки
- У каждого выхода своё разложение.
- Оси тензора имеют разный смысл.
Ответ
Аддитивность выполняется отдельно для каждого выхода/класса и его baseline. Сохраните ось выходов и суммируйте признаки выбранного выхода; смешивание классов разрушает нужное равенство.
Источник и лицензия: SHAP · TreeExplainer · MIT · ответ: редакция Quantoros · перевод: Quantoros