Можно ли распараллелить обучение случайного леса?
Classic MLУровень: ПрактикаRandom forest
Можно ли распараллелить обучение случайного леса?
Подсказки
- Как формируются обучающие выборки и чем отличаются деревья ансамбля?
- Рассмотрите корреляцию ошибок отдельных моделей, а не только их качество.
Ответ
Да, отдельные деревья можно обучать независимо, затем объединить их в лес. В исходнике приведён пример R с foreach и зарегистрированным параллельным backend:
rf <- foreach(ntree=rep(25000, 6), .combine=randomForest::combine,
.multicombine=TRUE, .packages='randomForest') %dopar% {
randomForest(x, y, ntree=ntree)
}
Распараллеливание выполняет %dopar%, а combine объединяет обученные части.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros