Чем L1 (Lasso) отличается от L2 (Ridge)?
Classic MLУровень: ПрактикаClassical machine learning
Чем L1 (Lasso) отличается от L2 (Ridge)?
Подсказки
- Начните с функции потерь: что меняется при добавлении штрафа на параметры?
- Сравните геометрию ограничений и поведение коэффициента около нуля. Отдельно проверьте роль масштаба признаков.
Ответ
L1 добавляет сумму абсолютных коэффициентов и может сделать часть весов ровно нулевыми, получая разреженную модель и отбор признаков. L2 добавляет сумму квадратов и плавно уменьшает веса. Elastic Net сочетает оба штрафа, объединяя разреженность с устойчивостью при коррелирующих признаках.
Источник и лицензия: Ishan Dutta — Awesome Data Science Interview Q&A · MIT · перевод: Quantoros