Какие гиперпараметры важны для градиентного бустинга?
Classic MLУровень: ПрактикаGradient boosting
Какие гиперпараметры важны для градиентного бустинга?
Подсказки
- Что предсказывает очередная модель относительно уже построенного ансамбля?
- Сопоставьте последовательное добавление моделей с оптимизацией функции потерь.
Ответ
Ключевые параметры: learning_rate — вклад нового дерева; n_estimators — число деревьев; max_depth — их глубина; min_samples_split и min_samples_leaf — ограничения разбиений и листьев; subsample — доля объектов. Имена и значения по умолчанию зависят от реализации.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros