Почему TensorRT engine отвергает размер входа, хотя ONNX-модель имеет динамические оси?
GPU / CUDAУровень: ПродвинутыйTensorRT dynamic-shape optimization profiles
Почему TensorRT engine отвергает размер входа, хотя ONNX-модель имеет динамические оси?
Подсказки
- Разделите символические оси ONNX и ограничения готового engine.
- Для чего нужны min, opt и max формы?
Ответ
Этот ответ — часть менторства
К продвинутым вопросам есть полный разбор и тренировочное собеседование с практикующим квант-ресерчером. Первый созвон бесплатный.
Источник и лицензия: OpenMMLab — MMDeploy FAQ · Apache-2.0 · ответ: редакция Quantoros · перевод: Quantoros