К содержанию
Quantoros

Почему суммирование multiclass SHAP сразу по признакам и классам обычно неверно для проверки?

Classic MLУровень: ПрактикаSHAP · TreeExplainer

Почему суммирование multiclass SHAP сразу по признакам и классам обычно неверно для проверки?

Подсказки
  • У каждого выхода своё разложение.
  • Оси тензора имеют разный смысл.

Ответ

Аддитивность выполняется отдельно для каждого выхода/класса и его baseline. Сохраните ось выходов и суммируйте признаки выбранного выхода; смешивание классов разрушает нужное равенство.

Источник и лицензия: SHAP · TreeExplainer · MIT · ответ: редакция Quantoros · перевод: Quantoros

Похожие вопросы