關注公眾號：『AI學習星球』
回復：TensorRT 即可獲取安裝包下載。
算法學習、4對1輔導、論文輔導或核心期刊可以通過公眾號或CSDN滴滴我

---

1. 安裝CUDA

a. 下載CUDA

CUDA下載鏈接：https://developer.nvidia.com/cuda-toolkit-archive

b. 安裝CUDA

1. 運行文件
   命令1：sudo sh cuda_10.0.130_410.48_linux.run
   或
   命令2：sudo bash cuda_10.0.130_410.48_linux.run

然后進入到安裝界面


點擊Install進行下載

2. 配置環境變量

sudo vim ~/.bashrcexport PATH= $PATH:/usr/local/cuda-11.4/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-11.4/lib64
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-11.4

c. 驗證CUDA

終端輸入：nvcc -V

2. 安裝CUDNN

a. 下載CUDNN

CUDNN下載鏈接：https://developer.nvidia.com/rdp/cudnn-archive

b. 安裝CUDNN

1. 解壓
   tar -xvzf cudnn-11.4-linux-x64-v8.2.2.26.tgz
2. 將解壓后的文件復制到CUDA的對應目錄下

sudo cp cuda/include/cudnn.h /usr/local/cuda-11.4/include*
sudo cp cuda/lib64/libcudnn* /usr/local/cuda-11.4/lib64*
sudo chmod a+r /usr/local/cuda/include/cudnn.h
sudo chmod a+r /usr/local/cuda/lib64/libcudnn*

c. 驗證CUDNN

cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2

3. 安裝TensorRT

a. 下載TensorRT

要注意，TRT和CUDA和CUDNN是有版本對應關系的
下載鏈接：https://developer.nvidia.com/nvidia-tensorrt-download

b. 解壓TensorRT

tar -zxvf TensorRT-7.0.0.11.Ubuntu-18.04.x86_64-gnu.cuda-10.0.cudnn7.6.tar.gz
然后配置環境變量

vim /etc/profile
#加入下面的環境變量
export TENSORRT_ROOT={你的tensorrt目錄}
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:{你的tensorrt目錄}/lib#保存:wq
source /etc/profile

c. 安裝TensorRT

在解壓后TensorRT的文件夾里有個python文件，進入后

pip install tensorrt-7.0.0.11-cp36-none-linux_x86_64.whl

d. 安裝uff和graphsurgeon

在在解壓后TensorRT的文件夾里有個uff文件和graphsurgeon文件夾，進入后
pip install uff-0.6.5-py2.py3-none-any.whl
pip install graphsurgeon-0.4.1-py2.py3-none-any.whl

e. 驗證是否安裝成功

1. 命令行切換到TensorRT-7.0.0.11\data\mnist，執行命令：python download_pgms.py，并完成下載數據
2. 切換到TensorRT-7.0.0.11/samples/sampleMNIST/，輸入make。編譯項目生成可執行文件。
3. 切換到TensorRT-7.0.0.11/bin，輸入./sample_mnist

f. 備注

1. 在編譯后可能需要重新編譯

輸入命令：

sudo make cleansudo make CUDA_INSTALL_DIR=/usr/local/cuda

---

關注公眾號：『AI學習星球』
回復：TensorRT 即可獲取數據下載。
算法學習、4對1輔導、論文輔導或核心期刊可以通過公眾號或CSDN滴滴我