Когда использовать one-hot, а когда порядковое кодирование категорий?
Classic MLУровень: ПрактикаClassical machine learning
Когда использовать one-hot, а когда порядковое кодирование категорий?
Подсказки
- Сформулируйте задачу, входные данные и то, что модель должна предсказывать.
- Сравните метод с простым baseline: допущения, функция потерь и независимая проверка.
Ответ
One-hot подходит неупорядоченным категориям: отдельные бинарные признаки не навязывают числового порядка, но увеличивают размерность. Ordinal encoding уместен при естественном порядке, например «низкий/средний/высокий». Для деревьев целочисленные коды иногда удобны, однако нужно учитывать, как реализация интерпретирует категории и пороговые разбиения.
Источник и лицензия: Ishan Dutta — Awesome Data Science Interview Q&A · MIT · перевод: Quantoros