本文分享在自己的本地電腦部署?llama3.1，而且輕松簡易，快速上手。

這里借助Ollama工具，在Linux系統中進行大模型部署~

Llama3.1，有三個版本：8B、70B、405B

Llama 3.1 405B 是第一個公開可用的模型，在常識、可操縱性、數學、工具使用和多語言翻譯等最先進的能力方面可與頂級 AI 模型相媲美。

8B 和 70B 模型的升級版本支持多種語言，上下文長度顯著增加至 128K，工具使用先進，推理能力也更強。

這使得 Meta 的最新模型能夠支持高級用例，例如長篇文本摘要、多語言對話代理和編碼助手。

Meta 還對其許可證進行了修改，允許開發人員使用 Llama 模型（包括 405B 模型）的輸出來改進其他模型。

?1、安裝Ollama

來到官網地址：Download Ollama on macOS

執行命令來安裝ollama：curl -fsSL https://ollama.com/install.sh | sh?

安裝位置默認是在?/usr/local/lib/ollama

恭喜Ollama安裝成功啦~

啟動Ollama（）：ollama serve

然后可以查詢一下版本（可選）：ollama -v

或者看一下ollama命令有那些參數（可選）：ollama

2、加載和使用Llama3.1

來到Ollama的模型庫?https://ollama.com/library/llama3.1

Llama3.1，有三個版本：8B、70B、405B

這里可以先選擇小的試一試，比如8b，

輸入命令：ollama run llama3.1:8b

這里建議能科學上網，不然可能需要等待很久很久~

成功加載llama3.1:8b啦，能和它聊天交流～

如果想退出聊天，按下Ctrl + d

3、安裝chatbox，改善聊天界面

如果使用命令進行聊天，感覺不太舒服，而且代碼也不方便表示

這時我們使用chatbox工具，然后加載DeepSeek-R1模型，這樣可以用一個漂亮的可視化界面聊天啦

chatbox官網地址：Chatbox AI官網：辦公學習的AI好助手，全平臺AI客戶端，官方免費下載

點擊下載完成后，能看到Chatbox-1.9.8-x86_64.AppImage

我們需要給它添加可運行權限：

sudo chmod a+x Chatbox-1.9.8-x86_64.AppImage

然后雙擊運行，就能打開它啦～

然后打開Chatbox，進行編輯配置

選擇“OLLAMA API”，然后選擇模型“llama3.1:8b”，其他配置默認就好啦

開啟聊天啦

4、嘗試不同版本的Llama

上面是llama3.1:8b的版本，用起來很流暢，于是嘗試更大參數量的版本（70b、405b等）

對應的命令：

ollama run llama3.1:70b

ollama run llama3.1:405b

相關文章分享：

DeepSeek-R1 本地電腦部署 Windows系統 【輕松簡易】_windows部署 deepseek r1-CSDN博客

DeepSeek-R1 本地電腦部署 Linux系統 【輕松簡易】_14900kflinux-CSDN博客

分享完成~