Ubuntu 24.04 LTS系統安裝RTX 4090顯卡驅動和cuda并部署ollama下載DeepSeek模型【自用詳細版】

在這里插入圖片描述
自己搗鼓玩玩哈，正好有機子

1. 安裝驅動前的系統配置工作

卸載原有驅動并禁用nouveau

sudo apt remove --purge nvidia*sudo cp /etc/modprobe.d/blacklist.conf /etc/modprobe.d/blacklist.conf.backup //備份文件

sudo vim /etc/modprobe.d/blacklist.conf  //修改文件
在文件末尾添加如下內容：blacklist nouveau
blacklist lbm-nouveau
options nouveau modeset=0
alias nouveau off
alias lbm-nouveau off

在這里插入圖片描述

按下exc，輸入：wq保存后關閉文件

echo options nouveau modeset=0 | sudo tee -a /etc/modprobe.d/nouveau-kms.conf  //關閉nouveau

在這里插入圖片描述

sudo update-initramfs -u  //更新reboot  //重啟

在這里插入圖片描述

重啟后查看是否禁用成功
執行以下內容，沒有任何輸出內容則為成功禁用

lsmod | grep nouveau

在這里插入圖片描述
這樣就成功了

2. 可以手動安裝NVIDIA驅動

https://www.nvidia.cn/drivers/lookup/
在這里插入圖片描述
我下載的是

sudo chmod a+x NVIDIA-Linux-x86_64-570.133.07.run
sudo ./NVIDIA-Linux-x86_64-570.133.07.run

2. 也可以系統安裝NVIDIA驅動（如果手動安裝驅動就跳過這步）

更新系統軟件包
```
sudo apt update && sudo apt upgrade -y
```
確保系統最新以避免兼容性問題。
查看顯卡型號
```
lspci | grep -i nvidia
```

在這里插入圖片描述

添加NVIDIA驅動倉庫并安裝驅動（下載速度比較慢）
```
sudo add-apt-repository ppa:graphics-drivers/ppa
sudo apt update
sudo ubuntu-drivers autoinstall
```
這樣就安裝成功了
安裝完成后重啟系統：
```
sudo reboot
```
驗證驅動安裝
```
nvidia-smi
```
應顯示顯卡信息及驅動版本。

3. 安裝CUDA和cuDNN

安裝CUDA Toolkit
根據驅動版本選擇CUDA版本（如CUDA 12.x）：

NVIDIA官網下載.run文件安裝。

wget https://developer.download.nvidia.com/compute/cuda/12.8.1/local_installers/cuda_12.8.1_570.124.06_linux.run
sudo sh cuda_12.8.1_570.124.06_linux.run

注意：安裝選項把驅動給取消掉，因為前面已經安裝過驅動了
在這里插入圖片描述
配置環境變量
為了讓系統可以找到 CUDA 工具和庫，需要配置環境變量。

打開終端，編輯 .bashrc 文件：

vim ~/.bashrc
在文件的末尾添加以下幾行：

export PATH=/usr/local/cuda/bin:$PATH export
LD_LIBRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH

保存并關閉文件，然后使更改生效：

source ~/.bashrc

在這里插入圖片描述
這樣就安裝成功了

安裝cuDNN （可選擇安裝，其實不用裝也可以運行ollama）
需注冊NVIDIA開發者賬號后下載cuDNN庫，解壓并復制到CUDA目錄。

4. 安裝Ollama

下載并安裝Ollama
```
curl -fsSL https://ollama.com/install.sh | sh
```
或從官網獲取.deb包安裝。
建議國內改一下鏡像源地址，下載更快：

curl -fsSL https://ollama.com/install.sh -o ollama_install.shsed -i 's|https://ollama.com/download/ollama-linux|https://gh.llkk.cc/https://github.com/ollama/ollama/releases/download/v0.6.4/ollama-linux|g' ollama_install.shchmod +x ollama_install.sh&& sh ollama_install.sh

啟動Ollama服務
```
systemctl --user enable --now ollama
```

在這里插入圖片描述

5. 下載并運行DeepSeek模型

拉取DeepSeek模型
```
ollama run deepseek-r1:32b
```
支持版本包括deepseek-r1:7b（70億參數）、deepseek-v3:32b等。
驗證模型運行
安裝完成后，輸入指令即可與模型交互。如需通過Web界面操作，可安裝Open WebUI。

注意事項

驅動兼容性：RTX 4090需NVIDIA驅動≥535版本。
虛擬機限制：Ollama需物理機安裝，虛擬機可能無法正確識別顯卡。
網絡問題：若模型下載緩慢，可嘗試配置代理或使用國內鏡像。

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/bicheng/75996.shtml
繁體地址，請注明出處：http://hk.pswp.cn/bicheng/75996.shtml
英文地址，請注明出處：http://en.pswp.cn/bicheng/75996.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！