Чем бэггинг отличается от бустинга?
Classic MLУровень: БазаClassical machine learning
Чем бэггинг отличается от бустинга?
Подсказки
- Как формируются обучающие выборки и чем отличаются деревья ансамбля?
- Рассмотрите корреляцию ошибок отдельных моделей, а не только их качество.
Ответ
Бэггинг обучает независимые модели на bootstrap-выборках и объединяет их прогнозы, прежде всего уменьшая разброс. Бустинг обучает модели последовательно, учитывая ошибки предыдущего ансамбля и уменьшая систематическую ошибку. Современный бустинг также контролирует разброс регуляризацией; обычно он чувствительнее к настройке.
Источник и лицензия: Ishan Dutta — Awesome Data Science Interview Q&A · MIT · перевод: Quantoros