運行fastGPT 第五步 配置FastGPT和上傳知識庫 打造AI客服

根據上一步的步驟，已經調試了ONE API的接口，下面，我們就登陸fastGPT吧

http://xxx.xxx.xxx.xxx:3000/

這個就是你的fastGPT后臺地址，可以在configer文件中找到。
賬號是root，密碼默認是1234

登錄了之后，可以新建一個工作流，這樣我們就可以調度GPT來幫我們回答問題了。

先去知識庫，創建一個通用知識庫。

上傳一些你的產品資料，產品的規格，價格，產品的特點，常見問題，操作，說明等相關的知識。

注意，創建知識庫， 一定要用聰明一些的模型，來幫你構建向量數據庫。比如質譜的GLM -4 -PLUS最新的大模型，索引模型，可以選Embedding-3或者mbedding-2 ，這兩都是質譜提供的。 其實區別不大，對于客服問答這種簡單的應用。 索引模型區別好像不大。 具體可以自己感覺。

你可以手動添加訓練數據集，這樣可以再插入內容。 注意左邊是問題， 右邊是答案。是問答模型。
問題一定要有產品型號，具體的所指，要簡短，不能是含糊的。 這個是引擎搜索時候的重要索引。不要追求1條知識過于全面，而是只針對1個點進行精要回復。 1個簡單問題，對應1個簡單的回答。 不要最求面面俱到，要的是1對1 的簡單關系。

這對后面搜索知識庫有極大好處。因為它只能搜指定的token數量，如果你的回答中無用內容占了 很多。那搜索出來的條目數量就很少。

每條知識，需添加索引關鍵詞，這個是非常非常重要的。 決定了索引排序的排名。只有相關性靠前的，才能被抓到。 所以關鍵詞質量很高。建議先把所有知識自己分個類 ，然后再決定怎么配置。

推薦的索引，要帶上型號標簽。 便于AI明白知識是哪個產品的。

電商客服 問答模型流程搭建

調用前置AI分析問題 擴展問題 和拆解關鍵詞

客服模型推薦使用上面這種工作流，客戶進來之后，先有前置的AI進行問題的分析，和補全。 然后擴展客戶問題的關鍵詞。
這里，可以用一個推理能力強的前置AI，比如我用了質譜的GLM -4 -PLUS最新的大模型(可以按照上篇文章介紹的方法自己添加進去)，堪比GPT-4o，前置問題分析，這個步驟最重要。 決定回答質量。

這里是最為重要的，你要控制提示詞，來教會GPT，如何拆解客戶的問題，將客戶的問題補全，讓他知道你的產品分類，要把產品型號告訴GPT，這是它的基礎背景知識。相當于分診臺，分類器。 拿到這些，后面的知識庫才能檢索數據。 如果分類錯誤，那就連客戶的問題都讀不懂了。后面的AI沒發正確回答。

客戶的問題簡短，而且沒有主謂語，經常問出一些，不看上下文不知道說什么的問題。 你要詳細教會AI怎么去擴展，和補全客戶的問題。

比如客戶問：這個多少錢
前置AI補全問題 和擴展：這個KB6011檢測儀多少錢

然后再根據這個補全后的問題，擴展幾個關鍵詞
比如：
這個KB6011檢測儀多少錢
KB6011檢測儀價格
KB6011售價
KB6011的優惠

這些，都會丟到后面的知識數據庫里 去查詢。

去知識庫抓取知識

利用前面拆解的問題，和關鍵詞。到知識庫，按照向量知識庫匹配度，抓取一定的知識。 這個token量可以自己設置，一般要抓取個2500 token左右吧。 抓的知識越多，后面AI參考的越多。但是，會影響速度。 另外，后置的AI，能不能分析這么多token，要看它的限制。小模型只能看8k的 token。


注意，因為我們使用了前置AI進行手動問題優化和擴展。 知識庫里的這個自動的就不用開啟了。 否則會混亂。 而且這個知識庫自帶的問題優化，也不是很靠譜。它沒法控制提示詞。和問題優化的走向。

調用后置AI根據前面的知識，客戶問題，歷史記錄 來回答可以問題。

后置AI，我用的是質譜的小模型，GLM4-AirX，便宜。快速一般幾百ms，就能把問題回答了。 對于淘寶電商這種客服來說，在合適不過了。 沒有什么推理，就是簡單回復。

把前面獲得所有信息，丟給AI，讓它結合客戶問題，前置AI優化后的問題和關鍵詞，和知識庫，歷史記錄，等這幾個方面，綜合做出推理回答。

約束AI回答走向的重要配置！！！

配置提示詞，這個是相當于你的客服的提示詞，整段回話的風格，客服的角色，和一些基礎的背景知識，都可以先給到它。 但是，這里并不決定如何使用知識庫里的知識。

最終的問答走向的控制，要點擊知識庫旁邊的小齒輪

這個是核心中的核心。 所有最終的回答，都會根據這個里面的設置，決定回答的走向。
點進去之后，就會看到，你可以選擇一個模板，來配置你的回答風格。
一般問答型的知識庫，就選嚴格模式。 避免它胡編亂造。

這樣，你可以在下面 “回答要求” 這個標簽下，自己添加一點內容。
1、比如限制GPT干啥，
2、怎么用知識庫，
3、要回答幾個問題（因為前面AI拆解問題后，會生成幾個近似的問題），你可以指定它回答幾個，或綜合客戶問題，找到最接近的回答等。
4、告訴它言簡意賅，不要超過150字，
5、怎么避免回復法律問題，不要過度承諾。等等。
你都可以在這里一行一行，添加給它。
6、如何區分產品型號
7、叮囑GPT看歷史記錄
8、叮囑他不要把不同標簽的知識搞混了，不同型號的產品知識，不要混在一起回答等。

總之，后置AI會嚴格按照這個法規，最終回答出滿意簡短的答案。 接近客服水平。

這里只講核心的配置邏輯。 具體的操作，需要自己摸索。

發布你的問答機器人吧，API可以接入你的其它軟件，比如AI客服軟件。或者以網頁形式直接問答。