前言
之前部署了fastgpt官方文檔的一個,提供的一個m3e-large的向量模型打包的docker鏡像,雖然使用起來整體效果還可以,但是有些文本向量相似度匹配的結果還是不太滿意的,目前,網絡上層出不窮的帶推理文本向量,想體驗一下,于是我基于modelscope庫封裝了一個兼容open ai的api接口服務,方便替換不同的文本向量模型使用。
教程
首先我們打開魔塔社區modelscoper,點擊模型庫,點擊模型類型為文本向量
,點擊排序 為下載量排序
。我們在下載量排名靠前的幾個中選擇一個適合自己的模型,點擊。
例如,最近很火的bge模型 https://www.modelscope.cn/models/AI-ModelScope/bge-large-zh,點擊復制模型ID,下面會用到。
項目源碼