Как оценить важность признаков в дереве решений?
Classic MLУровень: ПрактикаDecision trees
Как оценить важность признаков в дереве решений?
Подсказки
- Как выбирается одно разбиение и какой критерий оно улучшает?
- Проверьте остановку роста, размер листа и отличие обучения от прогнозирования.
Ответ
Исходный разбор связывает важность с улучшением разбиений: насколько признак помогает уменьшать неоднородность узлов. Для её измерения используют критерий Джини или энтропию и соответствующий прирост информации. Именно улучшение, полученное от разбиений по признаку, служит основой такого подхода.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros