Windows下ollama詳細安裝指南

文章目錄

    • 1、Windows下ollama詳細安裝指南
      • 1.1、ollama介紹
      • 1.2、系統要求
      • 1.3、下載安裝程序
      • 1.4、安裝步驟
      • 1.5、驗證安裝
      • 1.6、環境變量配置
      • 1.7、模型選擇與安裝【deepseek 示例】
        • 1.7.1、拉取并運行模型
        • 1.7.2、進階使用技巧

1、Windows下ollama詳細安裝指南


1.1、ollama介紹

ollama是一個專為在本地環境中運行和定制大型語言模型而設計的工具。它提供了一個簡單而高效的接口,用于創建、運行和管理這些模型,同時還提供了一個豐富的預構建模型庫,可以輕松集成到各種應用程序中。ollama的目標是使大型語言模型的部署和交互變得簡單,無論是對于開發者還是對于終端用戶

1.2、系統要求

  • Windows 10/11 64位
  • 8GB RAM(推薦16GB+)
  • 10GB 可用存儲空間
  • 已啟用虛擬化(BIOS/UEFI設置)
  • 支持CUDA的NVIDIA GPU(可選,用于GPU加速)

1.3、下載安裝程序

  1. 訪問官方下載頁面:

    1. 官方地址:https://ollama.com/download
    2. 百度網盤:https://pan.baidu.com/s/18X96ZrqZGF_kJlKLpuTZVA 提取碼: byi8
  2. 選擇 Windows 版本下載 在這里插入圖片描述

  3. 保存安裝文件到本地(默認名稱為 OllamaSetup.exe

1.4、安裝步驟

  1. 運行安裝程序

    • 雙擊下載的 OllamaSetup.exe
    • 如果出現用戶賬戶控制提示,點擊"是"
      在這里插入圖片描述
  2. 完成安裝

    • 當出現"Installation Complete"提示時點擊"Finish"

1.5、驗證安裝

  1. 打開 PowerShell 或 CMD

  2. 執行版本檢查命令:

    ollama --version
    

    ? 正常輸出示例:

    ollama version 0.1.20
    

1.6、環境變量配置

Ollama 的默認模型存儲路徑如下:C:\Users%username%.ollama\models,無論 C 盤空間大小,需要安裝多少模型,都建議換一個存放路徑到其它盤。

  1. 添加安裝路徑到PATH

    • 設置步驟:

      1. Win+S 搜索 “環境變量” → 編輯系統環境變量

      2. 點擊"環境變量" → 系統變量 →新增

        • 變量名為:OLLAMA_MODELS
        • 變量值為:E:\Tools\ollama\models
          在這里插入圖片描述
      3. 確定保存

  2. Ollama 退出重新啟動

    Windows 右下角圖標點擊退出后,重新啟動

1.7、模型選擇與安裝【deepseek 示例】

  • 硬件配置推薦表
R1模型版本CPUGPU內存存儲
1.5BIntel Core i5/AMD Ryzen 5 及以上無強制要求,有 1GB 及以上顯存可提升性能最低 8GB,推薦 16GB+至少 10GB,建議留更多緩存空間
7BIntel Core i7/AMD Ryzen 7 及以上無強制要求,有 4GB 以上顯存更好,推薦 8 - 12GB最低 16GB,推薦 32GB+至少 12GB,建議 30GB+
8BIntel Core i7/AMD Ryzen 7 及以上無強制要求,有 4.5GB 以上顯存更好,推薦 8GB+最低 16GB,推薦 32GB+至少 12GB,建議 30GB+
14BIntel Core i9/AMD Ryzen 9 及以上8GB 以上,推薦 12GB+,如 RTX 3080 及以上最低 32GB,推薦 64GB至少 15GB,建議 50GB+
32B高端多核,強多線程處理能力18GB 左右,建議 24GB+,如 NVIDIA A10032GB+,推薦 64GB+至少 20GB,建議 80GB+
70B服務器級 CPU,如 Intel Xeon 系列40GB 以上,如 NVIDIA H10064GB+,推薦 128GB+至少 30GB,建議 200GB+
  • 模型選擇決策樹
通用對話
代碼生成
多模態任務
輕量化部署
中文優先
多語言支持
英文優先
Python
Java/C++
Web開發
文本+圖像
純文本
低性能設備
高性能設備
中等性能設備
開始選擇模型
主要任務類型
語言支持
編程語言
輸入類型
設備性能
DeepSeek-R1
Llama 3.3
Phi-4
DeepSeek-R1
Llama 3.3
Mistral
Gemma 2
Llama 3.3
Phi-4
Gemma 2
Mistral
1.7.1、拉取并運行模型
  1. ollama可拉取模型地址:

    1. ollama library : https://ollama.com/library
    2. 官網首頁:https://ollama.com/

    在這里插入圖片描述
    以deepseek-r1 為例,點擊首頁中 DeepSeek-R1

在這里插入圖片描述

  1. 拉取并運行模型:

    • 拉取指令
    ollama run deepseek-r1:671b
    # ollama run 目標模型:大小
    

    ? 正常輸出結果如下:
    在這里插入圖片描述

    • 模型交互:

      在交互框中可直接輸入問題

    ? 正常輸出結果如下:
    在這里插入圖片描述

  2. 查詢已下載模型

    ollama list
    

    ? 正常輸出結果如下:

    在這里插入圖片描述

  3. 其他指令

    # 查詢模型信息
    ollama show qwen2:0.5b# 刪除模型
    ollama rm qwen2:0.5b
    
1.7.2、進階使用技巧
  • API 調用

注意:python中有集成的ollama工具包,需Python 3.8及以上版本

  • Install
pip install ollama
  • Custom client 示例:
from ollama import Client
client = Client(host='http://localhost:11434'
)
response = client.chat(model='deepseek-r1:7b', messages=[{'role': 'user','content': 'strawberry 中有幾個r',},
])print(response['message']['content'])

更多API詳見:https://pypi.org/project/ollama

REST API詳見:https://github.com/ollama/ollama/blob/main/docs/api.md

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/895071.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/895071.shtml
英文地址,請注明出處:http://en.pswp.cn/news/895071.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

10vue3實戰-----實現登錄的基本功能

10vue3實戰-----實現登錄的基本功能 1.基本頁面的搭建2.賬號登錄的驗證規則配置3.點擊登錄按鈕4.表單的校驗5.賬號的登錄邏輯和登錄狀態保存6.定義IAccount對象類型 1.基本頁面的搭建 大概需要搭建成這樣子的頁面: 具體的搭建界面就不多講。各個項目都有自己的登錄界面&#…

RestTemplate Https 證書訪問錯誤

錯誤信息 resttemplate I/O error on GET request for “https://21.24.6.6:9443/authn-api/v5/oauth/token”: java.security.cert.CertificateException: No subject alternative names present; nested exception is javax.net.ssl.SSLHandshakeException: java.security.c…

講人話的理解ai學習原理

通過把各種東西打上分數標簽存起來。ai不花算力是不可能的,需要巨大的算力,需要要大量gpu芯片,如果大大降低成本,就需要蒸餾別人成果,把這些參數偷偷弄過來。 比如”貓睡在石頭上感覺很涼快,很舒服&#x…

【雜談】-文明的量子躍遷:AI時代人類物種的自我重構

文章目錄 文明的量子躍遷:AI時代人類物種的自我重構一、文明基因的雙螺旋進化二、意識矩陣的拓撲重構三、倫理穹頂下的共生協議 文明的量子躍遷:AI時代人類物種的自我重構 在撒哈拉沙漠的巖壁上,史前人類用赭石顏料繪制出羚羊與獵人的身影&a…

vue3 點擊圖標從相冊選擇二維碼圖片,并使用jsqr解析二維碼(含crypto-js加密解密過程)

vue3 點擊圖標從相冊選擇二維碼圖片,并使用jsqr解析二維碼(含crypto-js加密解密過程) 1.安裝 jsqr 和 crypto-js npm install -d jsqr npm install crypto-js2.在util目錄下新建encryptionHelper.js文件,寫加密解密方法。 // e…

支持多種網絡數據庫格式的自動化轉換工具——VisualXML

一、VisualXML軟件介紹 對于DBC、ARXML……文件的編輯、修改等繁瑣操作,WINDHILL風丘科技開發的總線設計工具——VisualXML,可輕松解決這一問題,提升工作效率。 VisualXML是一個強大且基于Excel表格生成多種網絡數據庫文件的轉換工具&#…

【JVM詳解四】執行引擎

一、概述 Java程序運行時,JVM會加載.class字節碼文件,但是字節碼并不能直接運行在操作系統之上,而JVM中的執行引擎就是負責將字節碼轉化為對應平臺的機器碼讓CPU運行的組件。 執行引擎是JVM核心的組成部分之一。可以把JVM架構分成三部分&am…

C++ 順序表

順序表的操作有以下: 1 順序表的元素插入 給定一個索引和元素,這個位置往后的元素位置都要往后移動一次,元素插入的步驟有以下幾步 (1)判斷插入的位置是否合法,如果不合法則拋出異常 (2&…

mysql安裝starting the server報錯

win10家庭版無法啟動服務的,先不要退出,返回上一欄,然后通過電腦搜索欄輸入服務兩個字,在里面找到mysql80,右鍵屬性-登錄,登錄身份切換為本地系統就行了

萬有的函數關係速成2. 連續和導數

1.討論間斷點類型 定義: 若函數在某點不滿足連續的條件,則該點為間斷點。 第一類間斷點是左右極限都存在的間斷點,其中左右極限相等的是可去間斷點,不相等的是跳躍間斷點; 第二類間斷點是左右極限至少有一個不存在的間斷點,包括無窮間斷點(極限為無窮)和振蕩間斷點…

【專題】2025年我國機器人產業發展形勢展望:人形機器人量產及商業化關鍵挑戰報告匯總PDF洞察(附原數據表)

原文鏈接:https://tecdat.cn/?p39668 機器人已廣泛融入我們生活的方方面面。在工業領域,它們宛如不知疲倦的工匠,精準地完成打磨、焊接等精細工作,極大提升了生產效率和產品質量;在日常生活里,它們是貼心…

用docker在本地用open-webui部署網頁版deepseek

前置條件 用Ollama在本地CMD窗口運行deepseek大模型-CSDN博客文章瀏覽閱讀109次,點贊5次,收藏2次。首次運行需要下載deepseek的大模型包(大約5GB,根據本地網速的不同在半個小時到幾個小時之間下載完成) ,并…

android的DataBinding簡介

Android DataBinding 簡介 DataBinding 是 Android Jetpack 中的數據綁定庫,用于將 UI 組件直接與數據模型綁定,減少模板代碼并實現雙向數據同步。它通過聲明式布局簡化 UI 更新邏輯,常用于 MVVM(Model-View-ViewModel&#xff0…

企業如何利用DeepSeek提升網絡安全管理水平

企業可以通過深度整合DeepSeek的AI能力,構建智能化、動態化的網絡安全防御體系,以應對APT(高級持續性威脅)等復雜攻擊。以下是具體策略與實踐路徑: 1. AI驅動的威脅檢測與分析 多模態威脅狩獵 DeepSeek的深度學習技術能…

DeepSeek-R1 云環境搭建部署流程

DeepSeek橫空出世,在國際AI圈備受關注,作為個人開發者,AI的應用可以有效地提高個人開發效率。除此之外,DeepSeek的思考過程、思考能力是開放的,這對我們對結果調優有很好的幫助效果。 DeepSeek是一個基于人工智能技術…

x小兔鮮vue.js

LayoutFooter.vue <template><footer class"app_footer"><!-- 聯系我們 --><div class"contact"><div class"container"><dl><dt>客戶服務</dt><dd><i class"iconfont icon-kef…

磁盤分區損壞:深度解析與數據恢復策略

一、磁盤分區損壞現象概述 磁盤分區損壞是計算機數據存儲領域的一個常見問題&#xff0c;它通常表現為硬盤上的某個分區無法正常訪問&#xff0c;數據讀寫失敗&#xff0c;甚至整個分區消失。這種損壞可能源于多種因素&#xff0c;不僅影響用戶的正常使用&#xff0c;更可能導…

fetch請求總結,fastadmin中后臺接口強制返回json數據

fetch請求 提交圖片,只支持formData方式,這樣會自動變為multiform方式,而且一般的post大多都可以用這樣的方式來完成請求 const formData new FormData(); formData.append(file, fileInput.files[0]); formData.append(pid, id); formData.append(dc, 1);fetch(/api/common…

Python----Python高級(網絡編程:網絡基礎:發展歷程,IP地址,MAC地址,域名,端口,子網掩碼,網關,URL,DHCP,交換機)

一、網絡 早期的計算機程序都是在本機上運行的&#xff0c;數據存儲和處理都在同一臺機器上完成。隨著技術的發展&#xff0c;人 們開始有了讓計算機之間相互通信的需求。例如安裝在個人計算機上的計算器或記事本應用&#xff0c;其運行環 境僅限于個人計算機內部。這種設置雖然…

k8sollama部署deepseek-R1模型,內網無坑

這是目錄 linux下載ollama模型文件下載到本地,打包遷移到k8s等無網絡環境使用下載打包ollama鏡像非k8s環境使用k8s部署訪問方式非ollama運行deepseek模型linux下載ollama 下載后可存放其他服務器 curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linu…