Почему категория с нулевой вероятностью даёт ноль в энтропии, а не NaN?
МатематикаУровень: ПрактикаInformation measures
Почему категория с нулевой вероятностью даёт ноль в энтропии, а не NaN?
Подсказки
- Вычислите предел.
- Прямая арифметика может дать другое.
Ответ
По пределу lim(p→0+) p log p=0. Реализация должна учитывать предел, а не прямо умножать ноль на минус бесконечность.
Источник и лицензия: SciPy — entropy and relative entropy · BSD-3-Clause · ответ: редакция Quantoros · перевод: Quantoros