華為云Flexus+DeepSeek征文 | 華為云ModelArts與Reor的完美結合:創建高效本地AI筆記環境
- 引言
- 一、ModelArts Studio平臺介紹
- 華為云ModelArts Studio簡介
- ModelArts Studio主要特點
- 二、Reor介紹
- Reor簡介
- Reor主要特點
- 三、安裝Reor工具
- 下載Reor軟件
- 安裝Reor工具
- 四、開通DeepSeek-R1-0528商用服務
- 訪問ModelArts Studio控制臺
- 開通DeepSeek-R1-0528服務
- 生成API Key
- 復制及保存OpenAI SDK信息
- 開通其它商用服務
- 五、Reor基本配置工作
- 設置筆記目錄
- 配置Embedding Model
- 配置LLM
- 索引筆記
- 六、Reor使用體驗
- 測試AI對話能力
- 結合筆記庫進行提問
- 七、總結
引言
在人工智能技術飛速發展的今天,如何高效地管理和利用個人知識成為了一個重要課題。華為云ModelArts與本地智能筆記工具Reor的結合,為構建個性化AI筆記環境提供了全新思路。本文將帶你一步步搭建一個高效、智能的本地AI知識庫,體驗科技帶來的效率躍升。
一、ModelArts Studio平臺介紹
華為云ModelArts Studio簡介
華為云ModelArts Studio
是基于ModelArts構建的一站式大模型即服務平臺(MaaS),深度整合昇騰算力資源與全鏈路開發工具,為開發者提供從數據準備、模型訓練微調、提示詞工程到應用部署的全流程解決方案。平臺不僅預置主流開源大模型,還具備海量數據智能預處理、自動化標注、分布式訓練及模型自動生成能力,全面覆蓋AI模型全生命周期管理。無論是深耕算法的工程師、AI領域初學者,還是尋求智能化轉型的企業,都能依托ModelArts Studio的高效開發能力,快速實現AI應用的高質量落地與規模化部署。
華為云ModelArts Studio平臺地址
:https://www.huaweicloud.com/product/modelarts/studio.html
ModelArts Studio主要特點
-
? 模型全、免配置、免調優、性能優
業界 SOTA 大模型覆蓋度高達 99%,內置最優超參配置,結合昇騰算子優化與顯存管理,顯著提升訓練與推理性能。 -
? 開箱即用,一站式模型開發服務
提供模型調優、壓縮、部署、評測等全棧工具,功能覆蓋大模型全生命周期,用戶無需搭建即可直接使用。 -
? 資源一站式按需開通,建設周期短
計算資源可分鐘級獲取,支持按需計費、彈性擴縮容,并具備斷點續訓與故障快速恢復能力。 -
? 多服務組合競爭力,一站式應用能力集成
支持 MCP Server、LangChain、RAG、Agent、Guard、九問等組件即插即用,靈活構建復雜 AI 應用場景。 -
? 兼容性強,適配主流框架與自定義需求
全面支持 TensorFlow、PyTorch、MindSpore 等主流 AI 框架,同時支持用戶自研算法框架接入。
二、Reor介紹
Reor簡介
Reor
是一款面向高熵人群(信息繁雜、知識密集型用戶)設計的本地化人工智能個人知識管理應用,致力于通過 AI 技術增強用戶的思維與知識整理能力,提供智能、安全、高效的知識管理體驗。
Reor主要特點
- AI 驅動的筆記管理:利用人工智能自動關聯筆記內容,支持語義搜索并能回答關于筆記的問題,提升知識發現效率。
- 本地存儲:所有數據均保存在本地設備,保障隱私安全,同時支持類似 Obsidian 的 Markdown 編輯體驗。
- 模型本地運行:內置支持在本地運行大型語言模型(LLMs),也可連接 OpenAI 兼容 API,實現離線智能處理。
- 智能信息檢索:通過向量數據庫實現筆記間的智能關聯,結合 RAG(檢索增強生成)技術提供精準問答服務。
- 易于導入和集成:支持手動導入其他筆記應用的 Markdown 文件,方便用戶快速遷移已有知識庫。
- 思維增強工具:以 AI 為輔助,幫助用戶更好地組織、理解和擴展自己的知識體系,提升思考深度與創造力。
三、安裝Reor工具
下載Reor軟件
Reor
下載地址:https://github.com/reorproject/reor/releases,我們選擇點擊【Reor_0.2.31.exe
】進行下載,當前Reor最新版本為v-0.2.31。
安裝Reor工具
下載Reor安裝包后,在本地Windows上直接安裝即可。
雙擊Reor安裝包
,我們按照安裝提示,依次點擊下一步
安裝即可。安裝完成后,打開后的Reor `界面如下所示:
四、開通DeepSeek-R1-0528商用服務
訪問ModelArts Studio控制臺
登錄華為云官網并訪問ModelArts Studio
的介紹頁面(官方網址:https://www.huaweicloud.com/product/modelarts/studio.html)。在該頁面上,只需點擊“ModelArts Studio控制臺”按鈕,即可便捷地進入ModelArts Studio的控制臺界面。
開通DeepSeek-R1-0528服務
DeepSeek-R1-0528 是 DeepSeek 最新推出的大語言模型版本,專為提升復雜代碼生成與數學推理能力而設計。該模型在訓練數據和算法架構上進行了深度優化,顯著提升了以下方面的能力:
- 邏輯推理準確性
- 程序生成效率
- 數學問題求解能力
適用于如自動化編程、科研輔助、金融建模、數據分析等對精度與性能要求極高的高端應用場景,是開發者與研究人員的理想選擇。
在ModelArts Studio控制臺的左側菜單欄中,我們選擇模型推理——在線推理,選擇商務服務DeepSeek-R1-0528
,點擊“開通服務”。
備注:
服務類型 | 描述 | 注意事項 |
---|---|---|
免費服務 | 適合用于體驗模型,受嚴格的速率限制。 | 平臺可能會不定時調整其適用模型、免費額度、有效期等內容。 |
- 單個模型提供200萬token推理額度。 | 額度消耗完后可選擇開通商用級別的推理API服務或部署為付費服務使用。 | |
商用服務 | 提供商用級別的推理API服務。 | 開通后可獲取付費API服務(僅限貴陽一)。 |
- 用戶可以前往費用中心查看模型服務的優惠折扣發放和使用情況。 | 可以前往“我的服務”部署為個人服務后付費使用。 |
點擊“開通服務”后,我們勾選同意協議,確認“立即開通
”。
生成API Key
進入API Key
管理頁面。可以選擇“創建API Key
”。第一次生成后,記得注意保存此API Key,建議保存在本地以便后續使用。
復制及保存OpenAI SDK信息
我們可以查看DeepSeek-R1-0528的使用說明,只需要點擊“調用說明”選項。
調用說明會詳細的在此頁面顯示,我們將DeepSeek-R1-0528
服務的OpenAI SDK
相關信息復制,與API Key一起保存在本地文件中,以便后續使用。
開通其它商用服務
我們也可以開通DeepSeek-V3-32K
和DeepSeek-R1-32K
商用服務,直接像上述步驟一樣,點擊“立即開通”就可以了。
五、Reor基本配置工作
設置筆記目錄
在Reor初始彈出的配置頁,我們點擊第一項【選擇目錄】。我們選擇本地存放的markdown格式的筆記目錄,如下所示:
配置Embedding Model
選擇嵌入模型:
建議選用 jina-embeddings-v2-base-zh,該模型專為中文場景優化,在中文語義表示上具有更佳的準確性與表現力,有助于提升本地知識檢索與語義匹配的效果。
配置LLM
- 點擊LLM模型配置的【Setuo】選項,進入配置頁。
- 在LLM設置中,我們選擇【Setup a custom LLM API】項。
相關配置項設置可參考如下:
- API URL:https://api.modelarts-maas.com/v1
- API Name:華為云
- Optional API Key:華為云Maas創建的API Key
- Model Names: DeepSeek-V3 (也可以選擇華為云maas的DeepSeek-R1等其余模型測試)
- 其余配置默認即可。
索引筆記
所有設置都配置完畢后,點擊【Next】,進行索引筆記目錄中的所有筆記。
六、Reor使用體驗
測試AI對話能力
點擊左側菜單欄的對話圖標,點擊【Start New Chat】,進入對話頁面。
我們進行一個簡單測試,詢問 AI 助手的身份信息,Reor 能夠迅速給出準確回答,響應速度和準確性都令人滿意。
結合筆記庫進行提問
我們針對筆記庫提問,需要開啟對話框的【Search notes】選項,然后再進行提問。
使用Reor作為我們的智能助手,能夠將筆記目錄轉化為一個高效的知識庫,從而在需要時迅速檢索并引用相關內容。它通過分析筆記中的信息,依據筆記的具體內容進行整理,并提供精準的回答。這一特性使得用戶在管理和查找個人知識資產時變得更加便捷和高效。Reor的這種能力不僅提升了信息檢索的效率,同時也為用戶提供了更加流暢自然的交互體驗,是一款非常出色的工具。
七、總結
通過本次實踐體驗,華為云ModelArts與Reor的深度融合,成功打造了一個高效、智能的本地AI筆記環境。🌟 華為云ModelArts Studio提供了強大且靈活的AI開發能力,極大地簡化了模型部署與管理流程。🚀 Reor則憑借其出色的本地知識檢索與對話理解能力,讓筆記內容真正“活”了起來。💡 兩者的結合不僅提升了個人知識管理效率,也為智能化辦公和學習帶來了全新可能。🌈 華為云,用技術賦能未來,是值得信賴的云服務平臺!