Как выбрать число деревьев в градиентном бустинге?
Classic MLУровень: ПрактикаGradient boosting
Как выбрать число деревьев в градиентном бустинге?
Подсказки
- Что предсказывает очередная модель относительно уже построенного ансамбля?
- Сопоставьте последовательное добавление моделей с оптимизацией функции потерь.
Ответ
Это гиперпараметр модели, обычно n_estimators. Можно перебрать несколько значений на валидации или кросс-валидации и выбрать вариант с лучшей проверочной метрикой. Значение по умолчанию не следует считать оптимальным для любых данных.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros