К содержанию
Quantoros

Почему gradient-based sampling может быть информативнее равномерного при одинаковой малой доле строк?

Classic MLУровень: ПрактикаXGBoost · Parameters

Почему gradient-based sampling может быть информативнее равномерного при одинаковой малой доле строк?

Подсказки
  • Какие строки сейчас требуют большей коррекции?
  • Вероятность отбора зависит от градиентов.

Ответ

Он чаще сохраняет наблюдения с большим сигналом градиента и гессиана. Распределение отбора меняется: нужна поддерживаемая реализация hist и проверка качества, а не предположение, что малый subsample бесплатен.

Источник и лицензия: XGBoost · Parameters · Apache-2.0 · ответ: редакция Quantoros · перевод: Quantoros

Похожие вопросы