Что выбрать для bag-of-words классификации: бустинг или логистическую регрессию?
NLPУровень: ПрактикаText classification
Что выбрать для bag-of-words классификации: бустинг или логистическую регрессию?
Подсказки
- Отделите линейный скор от функции, превращающей его в вероятность.
- Сопоставьте выбранное распределение целевой переменной и отрицательный логарифм правдоподобия.
Ответ
Часто разумно начать с логистической регрессии: мешок слов создаёт очень много разреженных признаков, а линейная модель хорошо с ними работает и обычно обучается быстрее деревьев. Окончательный выбор подтверждают валидацией.
Источник и лицензия: Alexey Grigorev & contributors — Data Science Interviews · CC-BY-4.0 · перевод: Quantoros