admin管理员组

文章数量:1576878

文章目录

  • 前言
  • 一、先决条件
  • 二、TensorRT下载
    • 1.官网下载
    • 2.C++
    • 3.Python
  • 总结


前言

本偏文章主要用于记录Win10上TensorRT的安装过程。
C++软件:VS2019
python
PS:conda环境安装python依赖包时注意激活环境。


一、先决条件

在安装TensorRT前,首先需要安装CUDA、CUDNN等NVIDIA的基本库。
CUDA: 11.3; cmd执行 nvcc -V

cudnn:8.2.1


py-cuda (我用的11.5)

pip install cuda-python==11.5
(以下包我也不清楚什么用,但是安装了)
pip install nvidia-pyindex
pip install graphsurgeon
pip install uff

二、TensorRT下载

1.官网下载

NVIDIA官网:下载链接
需要注册。

选择tensorRT 8

EA VS GA

将下载的压缩包解压,然后放到自己合适的目录。如:D:\ProgramData\TensorRT-8.2.1.8

将解压后目录中的lib绝对路径添加到环境变量。

将lib目录下的dll文件复制到CUDA目录:C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v11.3\bin。

2.C++

用VS2019 打开 TensorRT-7.2.2.3\samples\sampleMNIST\sample_mnist.sln
修改代码如图所示。

右键sample_mnist项目,重新生成。

打开D:\ProgramData\TensorRT-8.2.1.8\bin
双击sample_mnist.exe。

大功告成!
但是,此时python是不能使用tensorRT的。


3.Python

控制台进入此目录。
根据python版本安装whl。(activate py 为激活我的conda环境)

测试一下:

完活!

总结

没有总结,有用的话点个赞点个关注撒。

本文标签: TensorRTPython