К содержанию
Quantoros

Какие настройки LightGBM помогают, если обучение не помещается в оперативную память?

Classic MLУровень: ПрактикаBoosting memory budget

Какие настройки LightGBM помогают, если обучение не помещается в оперативную память?

Подсказки
  • Сформулируйте задачу, входные данные и то, что модель должна предсказывать.
  • Сравните метод с простым baseline: допущения, функция потерь и независимая проверка.

Ответ

В FAQ рекомендованы ограничение histogram_pool_size и уменьшение num_leaves или max_bin. Кеш гистограмм — лишь часть расхода: остаются Dataset и другие объекты, поэтому это не жёсткий лимит памяти процесса. Уменьшение числа листьев или бинов может менять качество. Проверяются пиковая RSS и качество на валидации; при подборе гиперпараметров нужно учитывать несколько одновременно обучаемых моделей, а не только одну.

Источник и лицензия: LightGBM developers — Official FAQ · MIT · ответ: редакция Quantoros · перевод: Quantoros

Похожие вопросы