К содержанию
Quantoros

Подходит ли L2-регуляризация для отбора признаков?

Classic MLУровень: ПрактикаFeature selection

Подходит ли L2-регуляризация для отбора признаков?

Подсказки
  • Начните с функции потерь: что меняется при добавлении штрафа на параметры?
  • Сравните геометрию ограничений и поведение коэффициента около нуля. Отдельно проверьте роль масштаба признаков.

Ответ

Сама по себе она не выполняет жёсткий отбор: обычно уменьшает коэффициенты, но не зануляет их, как L1. Её основная роль здесь — стабилизировать модель, в частности при мультиколлинеарности.

Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros

Похожие вопросы