К содержанию
Quantoros

Когда полезен verbose-лог ONNX Runtime и почему не стоит включать его везде постоянно?

ML System DesignУровень: БазаInference diagnostic logging

Когда полезен verbose-лог ONNX Runtime и почему не стоит включать его везде постоянно?

Подсказки
  • Какие дополнительные сведения даст подробный лог?
  • Учтите приватность, накладные расходы и хранение логов.

Ответ

Он помогает разбирать загрузку, выбор provider и ошибки выполнения. Уровень задают глобально или через подходящие session/run options с учётом API версии. Собирайте ограниченный диагностический trace, не записывайте чувствительные входы и оцените overhead. Объём и срок хранения production-логов нужно выбирать осознанно: verbose не бесплатная наблюдаемость.

Источник и лицензия: Microsoft — ONNX Runtime FAQ · MIT · ответ: редакция Quantoros · перевод: Quantoros

Похожие вопросы