Pytorch模型实现AGX部署与Tensorrt加速
前言如果你有一个训练好的Pytorch模型,需要将他部署到嵌入式设备上(这里仅限NVIDIA生产的AGX系列),并且想利用Tensorrt实现模型优化,利用python脚本执行优化后的模型进行推理。那么可以参考这篇文章的思路。
NVIDIA Jetson AGX Orin 开发环境配置
NVIDIA AGX Orin 开发环境配置(Ubuntu 20.04 + JetPack 5.0 + miniforge3 + pytorch 1.11.0 + torchvision 0.12.0 + cv2 + cmake 等)

本站由 困困鱼 使用 Stellar 创建。