我們使用onnxruntime庫進行ONNX模型的推理,按照廠商提供的方法,使用了onnxruntime-gpu來調用GPU。經過實際驗證,GPU仍未被調用。我們已使用jtop檢查確認環境中的CUDA和TensoRT庫正常,且安裝的onnxruntime和onnxruntime-gpu版本與JetPack版本匹配。
Please check the update at Jetson Orin Nano Super调用onnx模型无法使用GPU - Jetson & Embedded Systems / Jetson Orin Nano - NVIDIA Developer Forums. Thanks
