隨著AI大模型的快速進化,其生態的構建,已經從C端過度到了B端。
作為產品經理,我們應該及時響應大趨勢,在產品策略上融入AI大模型模塊,深度挖掘AI大模型的應用價值,這才是作為PM在現階段最有價值的地方。
那么AI大模型對于企業來說,意味著什么呢?生產效率的提升?用戶體驗的提升?還是其他要素的提升?
我認為是讓企業自身更加的智能化,能夠靈活應對各種復雜業務。在激烈的競爭中,擁有對傳統互聯網企業進行降維打擊的能力,因為AI大模型改變了原有的生產范式。
在前一段時間,我深入的研究了一下AI大模型的應用開發框架LangChain,通過對技術上的深入了解,來拓展自己的產品邊界,今天就來做一下總結,希望對大家有所幫助。
一、AI大模型的企業級應用場景
圍繞企業級應用挖掘AI大模型的應用場景,總的來說,分為2大類:組織管理、業務管理。
組織管理:偏協同,組織內外部的協同。在AI來臨之前的組織協同,基本上是通過一套系統(OA、IM或其他辦公協同系統),來管理所有的人員,完全的工具化,而大模型的出現將組織管理變得更加智能化、自動化。AI大模型的服務對象可以是一個團隊、一個聊天群、一個員工、甚至是一個任務等等。
業務管理:偏效率,從業務分析、策略制定到產品設計、研發生產、風險控制等等,在提效方面非常顯著,雖然短期內的效率提升不代表著總效用的增強,但是至少觸發了先發優勢,先發優勢就代表著市場紅利。
接下來,分享一些具體的、目前市面上已經實現的AI大模型應用場景:
1、輿情監控:目前AI大模型已經可以聯網了,特別要提一下國內的“智譜清言”AI大模型GLM-4,能夠根據你輸入的指令檢測全網最新的輿情消息,感興趣的伙伴可以了解一下。
2、數據分析:不管是結構化、非結構化的數據(業務數據、行業報告、文章)都可以將其輸入AI大模型進行分析,并得出相對全面的結論。
3、基于本地知識庫的智能問答系統:可以利用AI大模型構建基于本地知識庫的自動問答系統,對于企業來說這非常的重要,可以最大化的發揮企業過往的經驗。
4、搜索增強RAG:利用檢索到的相關信息通過AI大模型來輔助和增強后續的處理任務,如文本生成、問答系統或文檔摘要等。
5、聊天客服機器人:使用AI大模型和代理,來實現能與業務系統進行交互且更具人性化的客服機器人。
6、私人助手:將個人的日程、聊天記錄、待辦事項等等輸入給AI大模型型,一個完美且的私人助手就誕生了。
7、推理引擎:推理引擎可以分解為:觀察-思考-決策/行動,3個環節,這正好是AI大模型所擅長的,所有利用AI大模型作為推薦系統、預測系統、風控系統的推理引擎再合適不過。
8、AIGC工作站:結合企業自身的生產需求,借助AI大模型的自動化內容生成能力,構建多模態(文字、圖片、視頻)的內容生產工作站。
當然AI大模型的應用場景不止這些,需要產研團隊不斷地挖掘,才能發揮出巨大的價值。
二、AI大模型的應用開發流程
AI大模型既然有如此的潛力,那么如何借助AI大模型為企業賦能呢?接下來就來詳細介紹一下。
應用AI大模型開發企業級應用,大致分為六個環節即:產品定義、產品設計、數據獲取、數據嵌入、模型調用、結果輸出/優化。從產品經理這個職能出發,可將其分解為以下幾個步驟:
1、需求定義:基于業務場景和用戶需求,明確產品目標和產品價值。
2、產品定義:基于需求內容,確定好產品的邊界,以及量化指標,便于后期的效果評估。
3、模型預研:根據自身的業務特性和應用場景,以及資源情況,選擇合適的模型,當然OpenAI的GPT模型效果是最優的,但是并未開源,需要根據Token付費。如果流量比較大的情況下,可以選擇meta開源的Llama-2模型,或者其他的多模態模型。
4、產品設計:包括產品結構設計、數據流程設計、產品流程設計、以及功能設計等,這個就不用多說了,PM的常規操作。
5、數據收集:收集企業內部、外部數據,并將其按照功能模塊劃分成不同的數據集。
6、數據清洗:通過數據探索將收集到的數據進行降噪處理,盡可能的保障數據的干凈。
7、數據分割:將清洗后的數據分割成合適大小的“數據塊”,便于數據的向量嵌入。
8、數據嵌入:調用目標AI大模型Embeddings進行向量化處理,并存儲到向量數據庫中。
9、構建提示工程:針對不同的提問和任務,通過思維鏈的方式構建提供工程,此步驟的目的在于將問題或任務轉化成對AI大模型更友好的輸入。提示工程的原則包括以下幾點(源自于Open AI的官方文檔 GPT 最佳實踐中給出的建議)。
① 寫清晰的指示; |
---|
② 給模型提供參考(也就是示例); |
③ 將復雜任務拆分成子任務; |
④ 給GPT時間思考; |
⑤ 使用外部工具; |
⑥ 反復迭代問題; |
10、數據檢索:將輸入/提示轉化成向量,從向量數據庫中檢索出相關的片段。
11、模型調用:構建模型實例llm = model_del(model_name),當然這里可以通過代理設定規則,自動化的調用不同的模型。
12、結果輸出:將輸入和檢索到的數據,作為參數傳入llm(question, data)實例中,來獲取結果,在獲取結果時可以進行結果解析,結構化存儲。
13、輸出優化:對于輸出的質量,需要通過產品的量化指標來進行分析,然后通過優化5~11這幾個步驟來優化結果的輸出。
其中前5個環節是作為產品經理需要完成的,后面幾個環節需要產品經理深度參與配合業務、研發、測試團隊來共同完成。下面來舉個例子,以簡化后的流程來快速讓大家理解整個AI大模型應用開發的關鍵流程。
就拿一個本地知識庫文檔的構建來說吧,核心流程如下:
1、文檔收集:將知識庫相關的文檔收集導一起,可以是非結構化的pdf、word文件,亦可是結構化存儲的SQL數據。
2、文檔加載:調用文檔加載器,將收集到的文檔加載為能夠讀取的形式。
3、文檔分割:調用文本分割器,將收集到的文檔,切分為指定大小的“文檔塊”。
4、文檔嵌入:將這些分割后的文本轉換成嵌入的形式,并將其存儲在一個向量數據庫中。可以調用OpenAI的Embeddings模型來將文檔快映射成OpenAI模型可識別的空間向量,然后存儲到本地的向量數據(使用OpenAI的Embeddings模型進行向量化文檔,是為了在后續將問題和答案輸入到)。
5、文檔檢索:從向量數據庫中檢索分割后的文檔(例如通過比較余弦相似度,找到與輸入 問題類似的嵌入片)。
6、結果輸出:把問題和相似的嵌入片傳遞給語言模型(LLM),使用包含問題和檢索到的分割的提示生成答案。
那么如何實現這個流程呢?就需要借助到一些AI大模型的應用開發框架,目前主流的框架是LangChain。在LangChain出現以前,想要實現上述流程,是一個很困難的事情,但是LangChain框架出現后,將這一系列流程進行了封裝。
三、LangChain AI大模型應用開框架介紹
LangChain 是一個全方位的、基于大語言模型這種預測能力 的應用開發工具,它的靈活性和模塊化特性使得處理語言模型變得極其簡便,LangChain提供的模塊化組件則允許你根據自己的需求定制和創建應用中的功能鏈條。
AI大模型應用開發框架LangChain,提供了6大模塊,來幫助我們實現快速開發AI大模型應用:
模型(Models):各種類型的模型和模型集成,比如OpenAI 的 ChatGPT、Meta的Llama等等。
提示(Prompts):提示管理、提示優化和提示序列化,通過提示微調模型的語義理解,LangChain提供了多種提示模版,可以很方便的滿足各種提示的重復調用。
記憶(Memory):用來保存和模型交互時的上下文狀態。把歷史對話信息存儲在提示模板中,并作為新的提示內容在新一輪的對話過程中傳遞給模型。這就是記憶機制的原理。
索引(Indexes):用來結構化文檔,以便和模型交互,包括:文檔的載入、分割、向量化存儲、文檔檢索等。
鏈(Chains):一系列對各種組件的調用。鏈在內部把一系列的功能進行封裝,而鏈的外部則又可以組合串聯。 鏈其實可以被視為LangChain中的一種基本功能單元,例如模型鏈就是其中最簡單的鏈。
代理(Agents):決定模型采取哪些行動,執行并且觀察流程,直到完成為止。代理就像一個多功能的接口,它能夠接觸并使用一套工具。根據用戶的輸入,代理會決定調用哪些工具。它不僅可以同時使用多種工具,而且可以將一個工具的輸出數據作為另一個工具的輸入數據。
LangChain為大型語言模型提供了一種全新的搭建和集成方式,正如樂高積木提供了無盡的創造可能。通過這個強大的框架,我們可以將復雜的技術任務簡化,讓創意和創新更加易于實現。
四、總結
本文粗略的總結了一下基于AI大模型的應用場景、開發流程,以及借助AI大模型應用開發框架的實現原理,讓大家來初步的感受一下企業級AI大模型應用的全景圖。
利用一些AI大模型的應用開發框架,使得企業應用AI大模型變得簡單起來,重要的是結合自身的業務,通過AI大模型強化自身的競爭力。總之,基于AI大模型的應用開發往深的去研究,還是有很多可探索空間的。
另外,基于AI大模型的應用開發是一種新的應用開發思維方式,而不僅僅是一個工具。在AI大模型時代,比拼的還是精益求精的探索精神。得到一個輸出的結果不難,難的是得到一個更優的結果,只有更優一點,才能在“卷”的時代突破重圍。
?
如何學習AI大模型?
現在社會上大模型越來越普及了,已經有很多人都想往這里面扎,但是卻找不到適合的方法去學習。
作為一名資深碼農,初入大模型時也吃了很多虧,踩了無數坑。現在我想把我的經驗和知識分享給你們,幫助你們學習AI大模型,能夠解決你們學習中的困難。
我已將重要的AI大模型資料包括市面上AI大模型各大白皮書、AGI大模型系統學習路線、AI大模型視頻教程、實戰學習,等錄播視頻免費分享出來,需要的小伙伴可以掃取。
一、AGI大模型系統學習路線
很多人學習大模型的時候沒有方向,東學一點西學一點,像只無頭蒼蠅亂撞,我下面分享的這個學習路線希望能夠幫助到你們學習AI大模型。
二、AI大模型視頻教程
三、AI大模型各大學習書籍
四、AI大模型各大場景實戰案例
五、結束語
學習AI大模型是當前科技發展的趨勢,它不僅能夠為我們提供更多的機會和挑戰,還能夠讓我們更好地理解和應用人工智能技術。通過學習AI大模型,我們可以深入了解深度學習、神經網絡等核心概念,并將其應用于自然語言處理、計算機視覺、語音識別等領域。同時,掌握AI大模型還能夠為我們的職業發展增添競爭力,成為未來技術領域的領導者。
再者,學習AI大模型也能為我們自己創造更多的價值,提供更多的崗位以及副業創收,讓自己的生活更上一層樓。
因此,學習AI大模型是一項有前景且值得投入的時間和精力的重要選擇。