Какие настройки LightGBM помогают, если обучение не помещается в оперативную память?
Classic MLУровень: ПрактикаBoosting memory budget
Какие настройки LightGBM помогают, если обучение не помещается в оперативную память?
Подсказки
- Сформулируйте задачу, входные данные и то, что модель должна предсказывать.
- Сравните метод с простым baseline: допущения, функция потерь и независимая проверка.
Ответ
В FAQ рекомендованы ограничение histogram_pool_size и уменьшение num_leaves или max_bin. Кеш гистограмм — лишь часть расхода: остаются Dataset и другие объекты, поэтому это не жёсткий лимит памяти процесса. Уменьшение числа листьев или бинов может менять качество. Проверяются пиковая RSS и качество на валидации; при подборе гиперпараметров нужно учитывать несколько одновременно обучаемых моделей, а не только одну.
Источник и лицензия: LightGBM developers — Official FAQ · MIT · ответ: редакция Quantoros · перевод: Quantoros