之前寫過一篇文章?【AI+本地知識庫】個人整理的幾種常見本地知識庫技術方案??, 由于當時主要是針對AI本地知識庫, 所以沒列fastGPT。?最近經常刷到fastGPT,這里單獨水一篇。?
FastGPT 是一個基于 LLM 大語言模型的知識庫問答系統,提供開箱即用的數據處理、模型調用等能力。同時可以通過 Flow 可視化進行工作流編排,從而實現復雜的問答場景!看下圖
如何快速上手
開始前,請準備一份測試電子文檔,WORD,PDF,TXT,excel,markdown 都可以,比如公司休假制度,不涉密的銷售說辭,產品知識等等。
這里使用 FastGPT 中文 README 文件為例。
首先我們需要創建一個知識庫。
知識庫創建完之后我們需要上傳一點內容。
上傳內容這里有四種模式:
-
手動輸入:手動輸入問答對,是最精準的數據
-
QA 拆分:選擇文本文件,讓AI自動生成問答對
-
直接分段:選擇文本文件,直接將其按分段進行處理
-
CSV 導入:批量導入問答對
這里,我們選擇 QA 拆分,讓 AI 自動生成問答,若問答質量不高,可以后期手動修改。
點擊上傳后我們需要等待數據處理完成,等到我們上傳的文件狀態為可用。
點擊「應用」按鈕來新建一個應用,這里有四個模板,我們選擇「知識庫 + 對話引導」。
應用創建后來再應用詳情頁找到「知識庫」模塊,把我們剛剛創建的知識庫添加進去。
添加完知識庫后記得點擊「保存并預覽」,這樣我們的應用就和知識庫關聯起來了。
然后我們就可以愉快的開始聊天啦。
fastGPT部署:
1、本地運行,如果想學習,就一步步來吧
2、docker compose部署, 你自己部署linux服務器需要解決代理環境。openai接口你懂得,科學上網。?
3、?Sealos云部署, 如果自己玩一玩建議用這個,比較方便。
也許你會說,fastGPT 也可以搞本地大模型,?但我覺得用作本地私密知識庫有點重了。默認情況下,FastGPT 只配置了 GPT 的模型,如果你需要接入其他模型,需要進行一些額外配置。One API是一個 OpenAI 接口管理 & 分發系統,可以通過標準的 OpenAI API 格式訪問所有的大模型,開箱即用。部署和使用 One API,實現 Azure、ChatGLM 和本地模型的接入。
相關文章:
【AI+本地知識庫】個人整理的幾種常見本地知識庫技術方案
【人工智能】電腦本地從零開始搭建屬于自己的大模型
【AI+應用】一步步搭建聊天機器人搭配多種國內外大模型以及api接口調用
【AI+云部署】盤點開源項目免費云部署的幾種技術方案
原文鏈接:【AI+知識庫問答】沉浸式體驗了解 AI知識庫問答fastGPT