Почему setparams внутри каждого запроса опасен для общей модели, хотя predict XGBoost потокобезопасен?
Classic MLУровень: ПрактикаXGBoost · Prediction
Почему set_params внутри каждого запроса опасен для общей модели, хотя predict XGBoost потокобезопасен?
Подсказки
- Безопасность чтения уже произвольной конкурентности.
- Запись конфигурации конфликтует с чтением.
Ответ
Гарантия для чтения не распространяется на параллельную модификацию. Настройте неизменяемый экземпляр до приёма запросов и заменяйте готовые экземпляры, не меняя параметры во время инференса.
Источник и лицензия: XGBoost · Prediction · Apache-2.0 · ответ: редакция Quantoros · перевод: Quantoros