自学内容网 自学内容网

TensorRT安装——解决FileNotFoundError: Could not find: nvinfer.dll

1.检查CUDA和CUDNN版本

CUDA和CUDNN的版本需要对应
以本文为例:CUDA是11.3,CUDNN是8.2.1

  • CUDA
nvcc --version

nvcc -V

在这里插入图片描述

  • CUDNN
    在这里插入图片描述
    在这里插入图片描述

2.下载TensorRT

官网:https://developer.nvidia.com/nvidia-tensorrt-8x-download

在这里插入图片描述
这里我选择的是TensorRT-8.4版本,
EA 版本代表抢先体验(在正式发布之前),GA 代表通用性。 表示稳定版,经过全面测试。(建议下载TensorRT的 GA release )

在这里插入图片描述

3.安装TensorRT

在这里插入图片描述

  • 将下载后的文件解压,将TensorRT文件中的bin、include两个目录中的文件复制到CUDA对应版本的安装目录中。
    在这里插入图片描述
    在这里插入图片描述

PS:解决FileNotFoundError: Could not find: nvinfer.dll
将TensorRT的lib目录中.lib结尾的文件复制到CUDA的lib目录中,.dll结尾的文件复制到CUDA的bin目录中。

在这里插入图片描述
在这里插入图片描述

  • 安装tensorrt python sdk,根据本地的Python版本安装相应的whl
    在这里插入图片描述

  • 安装onnx python sdk支持
    在这里插入图片描述

  • 安装uff
    在这里插入图片描述

  • 系统变量设置
    在这里插入图片描述

  • 重新打开cmd,测试TensorRT是否安装成功
    在这里插入图片描述

https://cloud.tencent.com/developer/article/1983455
https://blog.csdn.net/qq_44523137/article/details/125009228
https://blog.csdn.net/Robot3366/article/details/140724041


原文地址:https://blog.csdn.net/qq_45445740/article/details/143668829

免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!