使用 ollama 在 mac 本地部署一個 qwen3:8b 模型

前言

ollama 就是一個運行大模型的框架。要運行大模型，還需要大模型本身。

下載安裝 ollama

從 ollama 官網下載mac 版本的 ollama。
在這里插入圖片描述

啟動 ollama

安裝好選擇啟動即可，如果沒有選擇啟動，可以使用命令啟動。

 ollama serve

使用 ollama 運行 qwen3:8b 大模型

??警告：如果失敗，請參考下文的 離線部署 。

ollama run qwen3:8b

首次運行會先下載模型文件，如果不設置，默認模型文件下載目錄為 ~/.ollama/models/


pulling manifest
pulling a3de86cd1c13: 100% ▕████████████████████████████████▏ 5.2 GB
pulling ae370d884f10: 100% ▕████████████████████████████████▏ 1.7 KB
pulling d18a5cc71b84: 100% ▕████████████████████████████████▏  11 KB
pulling cff3f395ef37: 100% ▕████████████████████████████████▏  120 B
pulling 05a61d37b084: 100% ▕████████████████████████████████▏  487 B
verifying sha256 digest
writing manifest
success

使用指導

關閉思考過程

問一個問題，默認會輸出思考過程，關閉思考過程的方法如下
1、運行模型的時候加參數 --hidethinking

ollama run qwen3:8b --hidethinking

2、直接在對話框設置 /set nothink

>>> /set nothink
輸出
Set 'nothink' mode.

>>> 解釋下黎曼幾何的核心思想
Thinking...
嗯，用戶讓我解釋黎曼幾何的核心思想。首先，我需要確定用戶對數學的了解程度。可能他們是在學習
微分幾何或者相關領域，比如物理中的廣義相對論。不過也有可能他們只是對數學概念感興趣，或者需
要這個知識來解決某個具體問題。接下來，我得回憶一下黎曼幾何的基本概念。黎曼幾何是研究彎曲空間的幾何學，和歐幾里得幾何不同
，它允許空間具有曲率。核心思想應該包括曲率、度量張量、測地線這些內容。但用戶可能需要更深入
的解釋，或者更基礎的概述。用戶可能想知道黎曼幾何和歐幾里得幾何的區別，或者為什么它在物理中如此重要。比如，在廣義相對
論中，時空被描述為黎曼流形，曲率與引力相關。所以需要聯系實際應用，但也要保持解釋的準確性。我需要考慮用戶可能的背景。如果是學生，可能需要更詳細的數學定義；如果是非專業人員，可能需要
更直觀的解釋。不過用戶的問題比較開放，可能希望既有理論又有實際應用的結合。另外，用戶可能對黎曼幾何的結構、如何定義曲率、度量張量的作用等感興趣。可能需要分點解釋，比
如空間的彎曲、度量張量、曲率張量、測地線等。同時，要避免過于技術性的術語，或者適當解釋術語
。還要注意黎曼幾何和微分幾何的關系，以及它在現代數學和物理中的地位。比如，黎曼流形、曲率張量
、聯絡等概念。可能需要提到這些概念如何擴展了歐幾里得幾何，使其適用于更一般的空間。另外，用戶可能想知道黎曼幾何的核心思想是什么，而不是具體的應用。所以需要總結出幾個關鍵點：
空間的彎曲、度量張量的定義、曲率的數學描述、測地線作為最短路徑，以及這些如何統一在黎曼流形
的框架中。可能還需要提到黎曼幾何的數學工具，比如張量分析、外微分形式、聯絡和曲率張量。但用戶可能不需
要太深入的技術細節，而是更關注核心思想。另外，用戶可能對黎曼幾何的歷史背景感興趣，比如黎曼的貢獻，但問題主要集中在核心思想，所以可
能不需要深入歷史，但可以簡要提及。總結一下，我需要分點解釋黎曼幾何的核心思想，包括空間的彎曲、度量張量、曲率、測地線，以及這
些如何構成黎曼幾何的基礎。同時，聯系實際應用如廣義相對論，但保持解釋的清晰和易懂。
...done thinking.黎曼幾何是微分幾何的一個重要分支，由德國數學家伯恩哈德·黎曼（Bernhard Riemann）在19世紀提
出。它的核心思想是**研究具有彎曲結構的幾何空間**，并為現代物理學（如廣義相對論）提供了數學
基礎。以下是其核心思想的分點解析：---### **1. 空間的彎曲性（非歐幾何）**
- **與歐幾里得幾何的區別**：歐幾里得幾何假設空間是平直的（無曲率），而黎曼幾何允許空間具有**曲率**，即空間可以是彎曲
的（如球面或馬鞍面）。這種彎曲性是黎曼幾何的核心特征。
- **彎曲的數學描述**：通過**度量張量（metric tensor）**來量化空間的彎曲。度量張量是一個對稱的二階張量，用于計
算兩點之間的距離、角度和體積等幾何量。---### **2. 度量張量（Metric Tensor）**
- **定義**：度量張量 $ g_{ij} $ 是一個矩陣，其元素決定了空間中任意兩點之間的距離。在局部坐標系中，兩
點間距離的平方為：$$ds^2 = g_{ij} dx^i dx^j$$這里 $ dx^i $ 是坐標的變化量，$ ds $ 是弧長。
- **作用**：度量張，量不僅定義了空間的幾何結構，還決定了如何測量長度、角度和體積。它是黎曼幾何中所有
幾何量（如曲率、測地線）的基礎。---### **3. 曲率（Curvature）**
- **曲率的數學表達**：黎曼幾何通過**曲率張量（Riemann curvature tensor）**來描述空間的彎曲程度。曲率張量 $
R^l_{ijk} $ 由度量張量及其導數定義，反映了空間在不同方向上的彎曲差異。
- **物理意義**：曲率是空間“彎曲”的量化指標。在廣義相對論中，物質和能量會彎曲時空，而這種彎曲通過曲率張
量描述，進而影響物體的運動軌跡。---### **4. 測地線（Geodesic）**
- **定義**：測地線是空間中“最短路徑”的一般化。在平直空間中，測地線是直線；在彎曲空間中，測地線是局
部最短路徑（如球面上的大圓）。
- **物理意義**：在廣義相對論中，自由粒子（如光子）的運動軌跡是時空中的測地線，這正是引力效應的數學體現。---### **5. 黎曼流形（Riemannian Manifold）**
- **定義**：黎曼幾何研究的對象是**黎曼流形**，即一個光滑的拓撲空間，其每一點都賦予了一個度量張量，使
得空間具有局部的幾何結構。
- **核心思想**：黎曼流形將抽象的空間結構與度量結合，使得幾何性質可以被數學工具（如張量分析、微分方程）精
確描述。---### **6. 聯絡與協變導數（Connection & Covariant Derivative）**
- **聯絡（Connection）**：為了在彎曲空間中定義“方向”和“導數”，黎曼幾何引入了**聯絡**（如克里斯托費爾符號），它
描述了如何將一個向量從一點平移到另一點時的“旋轉”或“扭曲”。
- **協變導數**：協變導數是度量張量下定義的導數，用于計算向量場或張量場在彎曲空間中的變化率。---### **7. 應用與意義**
- **廣義相對論**：愛因斯坦的廣義相對論將時空視為一個四維黎曼流形，其曲率由物質和能量分布決定（愛因斯坦場方
程）。
- **其他領域**：黎曼幾何在機器學習（流形學習）、計算機視覺、機器人學等領域也有重要應用，用于描述高維數據
的空間結構。---### **總結**
黎曼幾何的核心思想可以概括為：
**通過度量張量和曲率張量，研究彎曲空間的幾何結構，描述測地線作為最短路徑，并將這些概念統一
在黎曼流形的框架中**。它突破了歐幾里得幾何的局限性，為理解宇宙的幾何本質和物理規律提供了數
學工具。>>> /set nothink
Set 'nothink' mode.
>>> 解釋下黎曼幾何的核心思想
黎曼幾何是微分幾何的一個重要分支，由德國數學家**伯恩哈德·黎曼**（Bernhard Riemann）在19世
紀提出。其核心思想是：**研究具有彎曲結構的幾何空間**，即在**非歐幾何**的框架下，探討空間如
何通過“度量”和“曲率”來描述。---### 🌍 **1. 空間的彎曲性（非歐幾何）**- **與歐幾里得幾何的區別**：歐幾里得幾何假設空間是平直的（如平面），而黎曼幾何允許空間是**彎曲的**，例如球面、馬鞍面
等。這種彎曲性是黎曼幾何的核心特征。- **彎曲的數學描述**：通過**度量張量（metric tensor）**來量化空間的彎曲。度量張量是一個對稱的二階張量，用于計
算兩點之間的距離、角度、體積等幾何量。---### 📐 **2. 度量張量（Metric Tensor）**- **定義**：度量張量 $ g_{ij} $ 是一個矩陣，其元素決定了空間中任意兩點之間的距離。在局部坐標系中，兩
點間距離的平方為：$$ds^2 = g_{ij} dx^i dx^j$$這里 $ dx^i $ 是坐標的變化量，$ ds $ 是弧長。- **作用**：度量張量不僅定義了空間的幾何結構，還決定了如何測量長度、角度和體積。它是黎曼幾何中所有幾
何量（如曲率、測地線）的基礎。---### 🔄 **3. 曲率（Curvature）**- **曲率的數學表達**：黎曼幾何通過**曲率張量（Riemann curvature tensor）**來描述空間的彎曲程度。曲率張量 $
R^l_{ijk} $ 由度量張量及其導數定義，反映了空間在不同方向上的彎曲差異。- **物理意義**：曲率是空間“彎曲”的量化指標。在廣義相對論中，物質和能量會彎曲時空，而這種彎曲通過曲率張
量描述，進而影響物體的運動軌跡。---### 🚀 **4. 測地線（Geodesic）**- **定義**：測地線是空間中“最短路徑”的一般化。在平直空間中，測地線是直線；在彎曲空間中，測地線是局
部最短路徑（如球面上的大圓）。- **物理意義**：在廣義相對論中，自由粒子（如光子）的運動軌跡是時空中的測地線，這正是引力效應的數學體現。---### 🧠 **5. 黎曼流形（Riemannian Manifold）**- **定義**：黎曼幾何研究的對象是**黎曼流形**，即一個光滑的拓撲空間，其每一點都賦予了一個度量張量，使
得空間具有局部的幾何結構。- **核心思想**：黎曼流形將抽象的空間結構與度量結合，使得幾何性質可以被數學工具（如張量分析、微分方程）精
確描述。---### 🔄 **6. 聯絡與協變導數（Connection & Covariant Derivative）**- **聯絡（Connection）**：為了在彎曲空間中定義“方向”和“導數”，黎曼幾何引入了**聯絡**（如克里斯托費爾符號），它
描述了如何將一個向量從一點平移到另一點時的“旋轉”或“扭曲”。- **協變導數**：協變導數是度量張量下定義的導數，用于計算向量場或張量場在彎曲空間中的變化率。---### 🌌 **7. 應用與意義**- **廣義相對論**：愛因斯坦的廣義相對論將時空視為一個四維黎曼流形，其曲率由物質和能量分布決定（愛因斯坦場方
程）。- **其他領域**：黎曼幾何在機器學習（流形學習）、計算機視覺、機器人學等領域也有重要應用，用于描述高維數據
的空間結構。---### ? **總結**黎曼幾何的核心思想可以概括為：> **通過度量張量和曲率張量，研究彎曲空間的幾何結構，描述測地線作為最短路徑，并將這些概念統
一在黎曼流形的框架中。**它突破了歐幾里得幾何的局限性，為理解宇宙的幾何本質和物理規律提供了數學工具。

查看運行過的模型

ollama list
NAME                    ID              SIZE      MODIFIED
qwen3-nothink:latest    bb7a30bb30b0    5.2 GB    18 minutes ago
qwen3:8b                500a1f067a9f    5.2 GB    26 minutes ago

查看幫助

ollama --help
Large language model runnerUsage:ollama [flags]ollama [command]Available Commands:serve       Start ollamacreate      Create a model from a Modelfileshow        Show information for a modelrun         Run a modelstop        Stop a running modelpull        Pull a model from a registrypush        Push a model to a registrylist        List modelsps          List running modelscp          Copy a modelrm          Remove a modelhelp        Help about any commandFlags:-h, --help      help for ollama-v, --version   Show version informationUse "ollama [command] --help" for more information about a command.

刪除部署過的模型

ollama rm qwen3-nothink:latest qwen3:8b
deleted 'qwen3-nothink:latest'
deleted 'qwen3:8b'

注意：執行后，模型文件會被刪除。

離線部署

執行 ollama run qwen3:8b 默認會先從 huggingface 模型倉庫下載模型文件，國內可能無法訪問，所以這里介紹如何先從阿里魔塔社區先手動下載模型文件，然后運行。

下載模型文件

打開阿里魔塔社區，搜索 qwen3-8b-gguf
在這里插入圖片描述
然后選擇 模型文件—下載模型 會彈出下載模型的命令。

如果找不到，直接從這里查看 Qwen3-8B-GGUF

按照如下命令下載即可：

pip3 install modelscope

pip install modelscope

打印 pip 下載的命令的路徑

python3 -m site --user-base
/Users/zld/Library/Python/3.9

下載 Qwen3:8B 模型
??警告：必須下載 GGUF 格式的模型文件，否則 ollama 不支持。

$(python3 -m site --user-base)/bin/modelscope download --model Qwen/Qwen3-8B-GGUF --local_dir ~/Qwen3-8B-GGUF

查看下載好的文件

ls -l  ~/Qwen3-8B-GGUF/
total 62629944
-rw-r--r--  1 zld  staff       11544  6 13 15:17 LICENSE
-rw-r--r--  1 zld  staff  5027783488  6 13 15:30 Qwen3-8B-Q4_K_M.gguf
-rw-r--r--  1 zld  staff  5720761152  6 13 15:32 Qwen3-8B-Q5_0.gguf
-rw-r--r--  1 zld  staff  5851112224  6 13 15:33 Qwen3-8B-Q5_K_M.gguf
-rw-r--r--  1 zld  staff  6725899040  6 13 15:33 Qwen3-8B-Q6_K.gguf
-rw-r--r--  1 zld  staff  8709518112  6 13 15:36 Qwen3-8B-Q8_0.gguf
-rw-r--r--  1 zld  staff        7577  6 13 15:17 README.md
-rw-r--r--  1 zld  staff          48  6 13 15:17 configuration.json
-rw-r--r--  1 zld  staff         270  6 13 15:17 params

創建模型

編輯Modelfile 文件，關于這個文件格式請參考 ollama/docs/modelfile.md
寫入如下內容

FROM ~/Qwen3-8B-GGUF/Qwen3-8B-Q8_0.gguf

創建模型

ollama create qwen3:8b-local  -f Modelfile

輸出

gathering model components
copying file sha256:408b955510e196121c1c375201744783b5c9a43c7956d73fc78df54c66e883d6 100%
parsing GGUF
using existing layer sha256:408b955510e196121c1c375201744783b5c9a43c7956d73fc78df54c66e883d6
writing manifest
success

查看創建的模型

ollama list
NAME              ID              SIZE      MODIFIED
qwen3:8b-local    e81bdb78f28d    8.7 GB    28 seconds ago

運行模型

ollama run qwen3:8b-local
>>> /set nothink #設置不輸出思考過程（不設置也可）開始對話吧