5000元組裝一臺本地運行中、小模型主機，參考配置 （運行DeepSeek、Qwen)

5000元組裝一臺本地運行中、小模型主機，參考配置 （運行DeepSeek、Qwen)

5000元中、小模型主機 DeepSeek、Qwen 各精度模型推薦啟動方式

模型名稱

參數量

精度

模型大小

推薦運行模式

DeepSeek?R1

7b

Q4

5 GB

LM Studio純GPU

14b

Q4

9 GB

LM Studio純GPU

32b

Q4

20 GB

LM Studio純GPU

Q8

35 GB

Ollama純CPU

FP16

66 GB

Ollama純CPU

70b

Q4

43 GB

Ollama純CPU

Q8

75 GB

FP16

141 GB

671b

Q4

404 GB

不能運行

(增大虛擬內存可啟動)

Q8

713 GB

FP16

1.3 TB

Qwen

qwq

32b

Q4

20GB

LM Studio純GPU

Q8

35GB

LM Studio?GPU+CPU

FP16

66GB

Ollama純CPU

Ollama下載模型拷貝到 LM Studio \models 目錄下需要建立兩層子目錄,并改文件格式為.gguf

C:\Users\Administrator\.lmstudio\models\Qwen\Qwq\qwq-fp16.gguf? ??

本文來自互聯網用戶投稿，該文觀點僅代表作者本人，不代表本站立場。本站僅提供信息存儲空間服務，不擁有所有權，不承擔相關法律責任。
如若轉載，請注明出處：http://www.pswp.cn/bicheng/74942.shtml
繁體地址，請注明出處：http://hk.pswp.cn/bicheng/74942.shtml
英文地址，請注明出處：http://en.pswp.cn/bicheng/74942.shtml

如若內容造成侵權/違法違規/事實不符，請聯系多彩編程網進行投訴反饋email:809451989@qq.com，一經查實，立即刪除！

相關文章

【新手初學】SQL注入getshell

【新手初學】SQL注入getshell

一、引入 木馬介紹： 木馬其實就是一段程序，這個程序運行到目標主機上時，主要可以對目標進行遠程控制、盜取信息等功能，一般不會破壞目標主機，當然，這也看黑客是否想要搞破壞。 木馬類型： 按照功…
閱讀更多...
Containerd+Kubernetes搭建k8s集群

Containerd+Kubernetes搭建k8s集群

虛擬機環境設置&#xff0c;如果不是虛擬機可以忽略不看 1、安裝配置containerd 1.1 添加 Kubernetes 官方倉庫 安裝cri-tools的時候需要用到 cat > /etc/yum.repos.d/kubernetes.repo << EOF [kubernetes] nameKubernetes baseurlhttps://mirrors.aliyun.com/kub…
閱讀更多...
應用待機分組管控是啥

應用待機分組管控是啥

1. 應用待機群組是啥&#xff1f; Android 9 引入了一個新功能&#xff0c;叫應用待機群組。簡單來說&#xff0c;就是根據你最近使用應用的頻率和時間&#xff0c;系統會把應用分成不同的“群組”。每個群組的應用能用的系統資源不一樣&#xff0c;比如后臺任務、鬧鐘、網絡請…
閱讀更多...
C/C++后端開發面經

C/C++后端開發面經

字節跳動 客戶端開發 實習 一面(50min) 自我介紹是否愿意轉語言,是否只愿意搞后端選一個項目來詳細談談HTTP和HTTPS有什么區別?談一下HTTPS加密的具體過程&#xff1a; 非對稱加密 對稱加密 證書認證的方式 非對稱加密是為了保證對稱密鑰的安全性。 對稱…
閱讀更多...
【第十三屆“泰迪杯”數據挖掘挑戰賽】【2025泰迪杯】A題解題全流程（持續更新）

【第十三屆“泰迪杯”數據挖掘挑戰賽】【2025泰迪杯】A題解題全流程（持續更新）

【第十三屆“泰迪杯”數據挖掘挑戰賽】【2025泰迪杯】A題解題全流程-思路&#xff08;持續更新&#xff09; 寫在前面&#xff1a; 1、A題、C題將會持續更新&#xff0c;陸續更新發布文章 2、賽題交流咨詢Q群&#xff1a;1037590285 3、全家桶依舊包含&#xff1a; 代碼、…
閱讀更多...
如何讓 history 記錄命令執行時間？Linux/macOS 終端時間戳設置指南

如何讓 history 記錄命令執行時間？Linux/macOS 終端時間戳設置指南

引言：你真的會用 history 嗎？ 有沒有遇到過這樣的情況：你想回顧某個重要命令的執行記錄，卻發現 history 只列出了命令序號和內容，根本沒有時間戳？這在運維排查、故障分析、甚至審計時都會帶來極大的不便。 想象一下，你在服務器上誤刪了某個文件，但不知道具體是幾點執…
閱讀更多...
Redis緩存異常場景深度解析：穿透、擊穿、雪崩及終極解決方案

Redis緩存異常場景深度解析：穿透、擊穿、雪崩及終極解決方案

一、引言 在高并發系統中&#xff0c;緩存承擔著流量洪峰的削峰填谷作用。然而當緩存層出現異常時&#xff0c;可能引發數據庫級聯崩潰&#xff0c;造成系統癱瘓。本文將深入剖析緩存穿透、緩存擊穿、緩存雪崩三大典型問題&#xff0c;并提供企業級解決方案。文章包含7種防御策…
閱讀更多...
Scala 之 正則

Scala 之 正則

regex 函數提取 import scala.util.matching.Regex// 輸入表達式 val expression "[a#0, round(a#0, 0) AS round(a, 0)#1, abs(a#0) AS abs(a)#2, len(cast(a#0 as string)) AS len(a)#3]"// 定義一個正則表達式來提取函數名稱 val functionPattern: Regex &quo…
閱讀更多...
CI/CD-Jenkins安裝與應用

CI/CD-Jenkins安裝與應用

CI/CD-Jenkins安裝與應用 Docker安裝Jenkins docker-compose.yaml version: "3.8" # # 自定義網絡配置 # networks:cicd:driver: bridgeservices:jenkins:# 盡量使用新版本的Jenkins, 低版本的Jenkins的有些插件使用不了# jenkins/jenkins:lts-jdk17是長期支持版…
閱讀更多...
驗證Linux多進程時間片切換的程序

驗證Linux多進程時間片切換的程序

?? 一、軟件需求 在同時運行多個CPU密集型進程時&#xff0c;需采集以下統計信息&#xff1a; 當前運行在邏輯CPU上的進程ID每個進程的運行進度百分比 實驗程序設計要求&#xff1a; 1. 命令行參數 參數說明示例值n并發進程數量3total總運行時長&#xff08;毫秒&…
閱讀更多...
IvorySQL：兼容Oracle數據庫的開源PostgreSQL

IvorySQL：兼容Oracle數據庫的開源PostgreSQL

今天給大家介紹一款基于 PostgreSQL 開發、兼容 Oracle 數據庫的國產開源關系型數據庫管理系統&#xff1a;IvorySQL。 IvorySQL 由商瀚高軟件提供支持&#xff0c;主要的功能特性包括&#xff1a; 完全兼容 PostgreSQL&#xff1a;IvorySQL 基于 PostgreSQL 內核開發&#xf…
閱讀更多...
樹莓派超全系列文檔--(13)如何使用raspi-config工具其二

樹莓派超全系列文檔--(13)如何使用raspi-config工具其二

如何使用raspi-config工具其二 raspi-configPerformance optionsOverclockGPU memoryOverlay file systemFan Localisation optionsLocaleTime zoneKeyboardWLAN country Advanced optionsExpand filesystemNetwork interface namesNetwork proxy settingsBoot orderBootloader…
閱讀更多...
QT音樂播放器（1）：數據庫保存歌曲

QT音樂播放器（1）：數據庫保存歌曲

實現功能&#xff1a;用數據庫保存本地導入和在線搜索的歌曲記錄 目錄 一. 保存本地添加的歌曲 1. 使用QSettings &#xff08;1&#xff09;在構造函數中&#xff0c;創建對象。 &#xff08;2&#xff09;在導入音樂槽函數中&#xff0c;保存新添加的文件路徑&#xff0c…
閱讀更多...
自動化發布工具CI/CD實踐Jenkins常用工具和插件的使用

自動化發布工具CI/CD實踐Jenkins常用工具和插件的使用

1、安裝常用工具 名稱版本備注jdkjava8代碼打包所需git1.8.3.1maven3.6.3注意配置私服內容nvm0.39.3多Node.js環境管理工具Node.jsv14.18.0 / v16.17.1包管理工具yarn1.22.15包管理工具 1.1 安裝jdk Jenkins 需要使用java11 及以上&#xff0c;但是代碼打包依賴jdk8&#xff…
閱讀更多...
shared_ptr和 weak_ptr的詳細介紹

shared_ptr和 weak_ptr的詳細介紹

關于 shared_ptr 和 weak_ptr 的詳細介紹及使用示例&#xff1a; 1. shared_ptr&#xff08;共享所有權智能指針&#xff09; 核心特性 引用計數&#xff1a;記錄當前有多少個 shared_ptr 共享同一個對象。自動釋放&#xff1a;當引用計數歸零時&#xff0c;自動釋放對象內存…
閱讀更多...
Spring AI MCP 架構詳解

Spring AI MCP 架構詳解

Spring AI MCP 架構詳解 1.什么是MCP? MCP 是一種開放協議&#xff0c;它對應用程序向大語言模型&#xff08;LLMs&#xff09;提供上下文信息的方式進行了標準化。可以把 MCP 想象成人工智能應用程序的 USB-C 接口。就像 USB-C 為將設備連接到各種外圍設備和配件提供了一種…
閱讀更多...
騰訊系AI應用，可以生視頻，3D模型...

騰訊系AI應用，可以生視頻，3D模型...

以下注冊手機后就可以使用了。 騰訊智影 智能抹除-在線去水印去字幕-抹除水印字幕-騰訊智影 混元&#xff08;文字&#xff0c;圖片生成3D&#xff09; 騰訊混元3D 混元視頻&#xff08;文字生成視頻&#xff0c;可惜右下角有文字&#xff09; https://video.hunyuan.tencen…
閱讀更多...
數據結構（并查集，圖）

數據結構（并查集，圖）

并查集 練習版 class UnionFindSet { public:void swap(int* a, int* b){int tmp *a;*a *b;*b tmp;}UnionFindSet(size_t size):_ufs(size,-1){}int UnionFind(int x){}void Union(int x1, int x2){}//長分支改為相同節點int FindRoot(int x){}bool InSet(int x1, int x2)…
閱讀更多...
數據結構：探秘AVL樹

數據結構：探秘AVL樹

本節重點 理解AVL樹的概念掌握AVL樹正確的插入方法利用_parent指針正確更新平衡因子掌握并理解四種旋轉方式&#xff1a;左單旋&#xff0c;右單旋&#xff0c;左右雙旋&#xff0c;右左雙旋 一、AVL樹的概念 AVL樹得名于它的發明者G. M. Adelson-Velsky和E. M. Landis&…
閱讀更多...
電源系統的熱設計與熱管理--以反激式充電器為例

電源系統的熱設計與熱管理--以反激式充電器為例

前言 反激電源常用于各種電子設備中&#xff0c;比如充電器、適配器等&#xff0c;它們通過變壓器進行能量轉換。高溫環境可能對電子元件造成影響&#xff0c;特別是像MOSFET、二極管、變壓器這樣的關鍵部件&#xff0c;導致效率變低&#xff0c;甚至可能導致功能失效。還有安…
閱讀更多...
最新文章

Copyright @ 2022~2023