一、基本配置

1.配置參數

密碼：yahboom

Ubuntu 20.04版本、python3.8、CUDA11.4、cuDNN8.6、TensorRT8.5、Jetpack5.1.1、Opencv4.5.4版本

終端輸入命令：sudo jtop

其中Jetpack是英偉達提供的專門供它自己的嵌入式計算機平臺使用的人工智能包。

終端輸入命令：sudo apt install nvidia-jetpack

2.配置CUDA和cuDNN

2.1 配置環境變量

由于鏡像自帶，無需安裝，直接配置即可。

# 打開~/.bashrc
sudo vim ~/.bashrc
# 在文本末輸入如下代碼：
export LD_LIBRARY_PATH=/usr/local/cuda/lib64
export PATH=/usr/local/cuda/bin:$PATH
export CUDA_HOME=/usr/local/cuda
# 更新環境變量配置
source ~/.bashrc

Vim 編輯的使用：

1、用vi打開文件后，是處于「命令行模式（command mode）」，您要切換到「插入模式（Insert mode）」才能夠輸入文字。切換方法：在「命令行模式（command mode）」下按一下字母「i」就可以進入「插入模式（Insert mode）」，這時候你就可以開始輸入文字了。

2、編輯好后，需從插入模式切換為命令行模式才能對文件進行保存，切換方法：按「ESC」鍵。

3、保存并退出文件：在命令模式下輸入:wq即可！（別忘了wq前面的:）

2.2 配置cuDNN環境

# 復制cudnn文件到cuda目錄下
cd /usr/include && sudo cp cudnn* /usr/local/cuda/include
cd /usr/lib/aarch64-linux-gnu && sudo cp libcudnn* /usr/local/cuda/lib64#修改文件權限，修改復制完的頭文件與庫文件的權限，所有用戶都可讀，可寫，可執行：
sudo chmod 777 /usr/local/cuda/include/cudnn.h 
sudo chmod 777 /usr/local/cuda/lib64/libcudnn*#重新軟鏈接，這里的8.6.0和8對應安裝的cudnn版本號和首數字
cd /usr/local/cuda/lib64sudo ln -sf libcudnn.so.8.6.0 libcudnn.so.8sudo ln -sf libcudnn_ops_train.so.8.6.0 libcudnn_ops_train.so.8
sudo ln -sf libcudnn_ops_infer.so.8.6.0 libcudnn_ops_infer.so.8sudo ln -sf libcudnn_adv_train.so.8.6.0 libcudnn_adv_train.so.8
sudo ln -sf libcudnn_adv_infer.so.8.6.0 libcudnn_adv_infer.so.8sudo ln -sf libcudnn_cnn_train.so.8.6.0 libcudnn_cnn_train.so.8
sudo ln -sf libcudnn_cnn_infer.so.8.6.0 libcudnn_cnn_infer.so.8# 更新共享庫緩存
sudo ldconfig

查看cuDNN：dpkg -l libcudnn8

從以上圖中，可以看出自帶TensorRT。

3.配置深度學習環境

3.1 安裝 Anaconda

官網下載地址，選擇aarch64版本，無法訪問時可以選擇清華鏡像源下載

da3-2023.07-2-Linux-aarch64 版本
cd /home/nx/Downloads/
wget https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/Anaconda3-2023.07-2-Linux-aarch64.sh
chmod +x Anaconda3-2023.07-2-Linux-aarch64.sh
./Anaconda3-2023.07-2-Linux-aarch64.sh      # 出現一大段licence時直接按空格跳到最后，不用一直enter

3.2 conda 換源

添加環境變量：

export PATH=$PATH:~/anaconda3/bin# 此處必須替換為自己安裝路徑若不同，需換成自己的安裝路徑
source ~/.bashrc

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/msys2/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/conda-forge
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/
conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main/
conda config --set show_channel_urls yes

3.3 創建環境

# 建議創建python3.8的環境，ubuntu20.04本身自帶python3.8,各種庫比較容易找，jetson官網公布的torch也是3.8版本的
conda create -n pytorch python=3.8
source activate pytorch
conda env remove --name pytorch 
conda remove -n pytorch --all
conda activate pytorch

3.4設置默認啟動環境

# 非自動啟動base環境
conda config --set auto_activate_base false# 指定默認啟動環境
vim ~/.bashrc
conda activate pytorch	# 在.bashrc文件末尾添加
source ~/.bashrc

二、安裝Pytorch和Torchvision

1.1 Pytorch安裝

安裝依賴：

sudo apt-get install libhdf5-serial-dev hdf5-tools libhdf5-dev zlib1g-dev zip libjpeg8-dev
sudo apt-get install liblapack-dev libblas-dev gfortransudo apt-get install libopenblas-base libopenmpi-dev
sudo pip3 install mpi4py
sudo pip3 install Cython

下載地址 下載python3.8 對應的pytorch2.0的whl文件 到home目錄下

cd ~/Downloadspip install torch-2.0.0+nv23.05-cp38-cp38-linux_aarch64.whl

1.2 安裝torchvisiion

torchvision暫未發布直接能pip安裝的whl版本，因此直接從源碼編譯。

下載torchvisiion

確定torch2.0.0對應的torchvisiion版本，為0.15.x。torch與torchvision版本對應，因此選擇v0.16.2版本的torchvisiion，從github clone到本地

git clone --branch  v0.15.1 https://github.com/pytorch/vision torchvision
export BUILD_VERSION=0.15.1  # 將BUILD_VERSION環境變量設置為值 0.15.2 ,要用vim編譯
cd torchvision
python3 setup.py install --user# 編譯時間比較長

報錯：import torchvision時報錯TypeError: ‘ABCMeta’ object is not subscriptable。

pip install ‘pillow<7’

pip install urllib3==1.26.16

1.3 驗證

查看pytorch運行時真正調用的cuda、cudnn、tensorrt版本：

import torch
import torchvision
import tensorrt as trttorch.cuda.is_available()		# 檢查cuda是否可用
torch.version.cuda				# 查看Pytorch運行時使用的cuda版本
torch.backends.cudnn.enabled	# 查看cudnn是否可用
torch.backends.cudnn.version()  # 查看cudnn版本
print(torchvision.__version__) 
print(torch.__version__)#注意查看兩者是否版本兼容
print(trt.__version__)
# '/usr/local/cuda'pip3 show tensorrt		# 查看tensorrt版本

1.4 安裝Vscode

下載vscode1.85.2

https://update.code.visualstudio.com/1.85.2/linux-deb-arm64/stable

在文件所在位置打開終端：

sudo dpkg -i code_1.85.2-1705560689_arm64.deb