Streamer-Sales是一個為直播帶貨主播量身定制的智能工具。
它能夠智能分析商品特性,自動創作出引人入勝的解說詞,從而有效增強商品的吸引力和提升銷售業績。它還具備多種交互功能,比如將主播的語音實時轉換為文字,便于與觀眾進行更直接的交流。它還能夠生成富有感情色彩的語音,讓商品介紹更加生動,以及創造虛擬主播的視頻,為觀眾帶來更加直觀和有趣的購物體驗。
具體功能
1. 主播文案生成:系統能夠基于商品特性,自動創建引人入勝的解說文案,以激發消費者的購買欲望。
2. 推理加速技術:通過集成LMDeploy技術,系統顯著提高了推理速度,并支持KV緩存和Turbomind技術。
3. 檢索增強生成:結合商品說明書和相關文檔,系統能夠生成更加貼合實際的文案內容。
4. 語音轉文字功能:系統支持將主播的語音實時轉換為文字,便于與觀眾進行互動。
5. 文字轉語音技術:能夠將文案轉換為帶有情感色彩的語音輸出,使商品介紹更加生動。
6. 數字人視頻生成:系統可以生成虛擬主播視頻,利用數字人技術進行商品解說,增強觀眾的觀看體驗。
7. 實時信息查詢:系統能夠通過網絡實時查詢并提供信息,例如快遞狀態,確保用戶獲得最新數據。
模型介紹Streamer-Sales 模型架構
模型用 xtuner 在 InternLM2的基礎上指令微調而來,部署集成了LMDeploy加速推理,支持ASR 語音生成文字壹, 支持RAG檢索增強生成三做到可以隨時更新說明書指導主播生成文案,支持Agent 通過網絡查詢快遞信息,還加入 帶有感情的TTS文字轉語音生成,最后還會生成主播數字人視頻,讓主播不止于文字介紹。
streamer-sales-lelemiao-7b流媒體-銷售-lelemiao-7b
基座:internlm2-chat-7b數據量:大約40萬Token特點:這是一個基于internlm2-chat-7b微調的模型,專為直播帶貨生成解說文案。模型通過大量商品數據的訓練,能夠生成高質量的商品解說文案,精準激發用戶購買欲望。適用場景:線上直播銷售、線下門店推廣、商品廣告文案生成等。
streamer-sales-lelemiao-7b-4bit
基座:internlm2-chat-7b數據量:大約40萬Token特點:這是 streamer-sales-lelemiao-7b 模型的 4bit 量化版本,進一步優化了推理速度和資源占用。量化后的模型在保持生成質量的同時,顯著提升了推理效率,適合在計算資源有限的環境中使用。適用場景:需要高效推理和快速響應的直播帶貨場景,尤其是在資源受限的情況下。項目通過多個模塊和技術的集成,構建了一個全面的直播帶貨大模型系統。
主要架構數據生成與處理模塊
數據集生成:采用通義干問和文心一言生成數據集,包括商品文案和問答對話。數據清洗和合并:對生成的數據進行清洗,合并并轉換為適合訓練的格式。RAG數據庫生成:創建向量數據庫,以支持檢索增強生成。
模型訓練與微調
基礎模型:使用 InternLM2 作為基礎模型。微調:使用xtuner對基礎模型進行指令微調,以適應不同商品和用戶需求。量化處理:使用 LMDeploy進行4bit量化,提升推理效率。
推理與生成模塊
推理加速:集成LMDeploy和Turbomind,支持KVcache,顯著提升推理速度。檢索增強生成(RAG):結合商品說明書和相關文檔,增強生成的文案內容。
語音處理模塊
ASR(語音轉文字):支持語音輸入轉換為文字。TTS(文字轉語音):生成帶有情感的語音輸出,增強用戶體驗。數字人生成模塊使用ComfyUlworkflow生成虛擬主播視頻,提供生動的商品解說。
實時信息查詢模塊
Agent集成:通過網絡查詢實時信息,如快遞狀態和天氣信息,提供即時反饋。
高性價比GPU算力:https://www.ucloud.cn/site/active/gpu.html?ytag=gpu_wenzhang_0627_shemei