К содержанию
Quantoros

Как подобрать силу регуляризации?

Classic MLУровень: БазаRegularization

Как подобрать силу регуляризации?

Подсказки
  • Начните с функции потерь: что меняется при добавлении штрафа на параметры?
  • Сравните геометрию ограничений и поведение коэффициента около нуля. Отдельно проверьте роль масштаба признаков.

Ответ

Рассмотрите набор значений λ или alpha и сравните модели на валидации либо кросс-валидации. Подойдёт перебор по сетке или случайный поиск. Выбирают значение с наилучшей проверочной метрикой, а не с минимальной ошибкой на обучении.

Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros

Похожие вопросы