Как избежать переобучения?
Classic MLУровень: ПрактикаML concepts — Sebastian Raschka FAQ
Как избежать переобучения?
Подсказки
- Сравните ошибки на обучающей и независимой выборках.
- Представьте, что повторяете обучение на другой выборке. Что меняется в предсказаниях и почему?
Ответ
Сравните обучение и валидацию по кривым обучения. Если дополнительные данные уменьшают разрыв, сбор репрезентативных примеров может помочь. Другие варианты — уменьшить сложность модели, усилить регуляризацию, применить раннюю остановку или усредняющий ансамбль. Начните с простого базового решения, чтобы видеть пользу усложнения. Все настройки выбирайте на валидации, а независимый тест используйте для итоговой оценки.
Источник и лицензия: Sebastian Raschka — Python Machine Learning FAQ · MIT · перевод: Quantoros