Почему gradient-based sampling может быть информативнее равномерного при одинаковой малой доле строк?
Classic MLУровень: ПрактикаXGBoost · Parameters
Почему gradient-based sampling может быть информативнее равномерного при одинаковой малой доле строк?
Подсказки
- Какие строки сейчас требуют большей коррекции?
- Вероятность отбора зависит от градиентов.
Ответ
Он чаще сохраняет наблюдения с большим сигналом градиента и гессиана. Распределение отбора меняется: нужна поддерживаемая реализация hist и проверка качества, а не предположение, что малый subsample бесплатен.
Источник и лицензия: XGBoost · Parameters · Apache-2.0 · ответ: редакция Quantoros · перевод: Quantoros