Чем отличаются filter, wrapper и embedded методы отбора признаков?
Classic MLУровень: БазаML concepts — Sebastian Raschka FAQ
Чем отличаются filter, wrapper и embedded методы отбора признаков?
Подсказки
- Что означает близость в выбранном представлении и метрике?
- Проверьте нормировку, точный и приближённый поиск, а также соответствие обучения поисковой задаче.
Ответ
Filter отбирает признаки по статистическим критериям независимо от конкретного финального обучения: дисперсия, корреляция, χ² или взаимная информация. Wrapper оценивает подмножества через качество обученной модели, например последовательный отбор, и обычно дороже. Embedded выполняет отбор внутри обучения: L1-регуляризация добавляет λ‖w‖₁ и может занулять коэффициенты, деревья выбирают признаки в разбиениях. PCA создаёт новые признаки и относится к извлечению, а не отбору. Все процедуры fit выполняют внутри обучающих фолдов.
Источник и лицензия: Sebastian Raschka — Python Machine Learning FAQ · MIT · перевод: Quantoros