К содержанию
Quantoros

Почему TensorRT engine отвергает размер входа, хотя ONNX-модель имеет динамические оси?

GPU / CUDAУровень: ПродвинутыйTensorRT dynamic-shape optimization profiles

Почему TensorRT engine отвергает размер входа, хотя ONNX-модель имеет динамические оси?

Подсказки
  • Разделите символические оси ONNX и ограничения готового engine.
  • Для чего нужны min, opt и max формы?

Ответ

Этот ответ — часть менторства

К продвинутым вопросам есть полный разбор и тренировочное собеседование с практикующим квант-ресерчером. Первый созвон бесплатный.

Источник и лицензия: OpenMMLab — MMDeploy FAQ · Apache-2.0 · ответ: редакция Quantoros · перевод: Quantoros

Похожие вопросы