Когда полезен verbose-лог ONNX Runtime и почему не стоит включать его везде постоянно?
ML System DesignУровень: БазаInference diagnostic logging
Когда полезен verbose-лог ONNX Runtime и почему не стоит включать его везде постоянно?
Подсказки
- Какие дополнительные сведения даст подробный лог?
- Учтите приватность, накладные расходы и хранение логов.
Ответ
Он помогает разбирать загрузку, выбор provider и ошибки выполнения. Уровень задают глобально или через подходящие session/run options с учётом API версии. Собирайте ограниченный диагностический trace, не записывайте чувствительные входы и оцените overhead. Объём и срок хранения production-логов нужно выбирать осознанно: verbose не бесплатная наблюдаемость.
Источник и лицензия: Microsoft — ONNX Runtime FAQ · MIT · ответ: редакция Quantoros · перевод: Quantoros