開篇
我們之前花了將近10個篇章講Dify的一些基礎應用,包括在講Dify之前我們講到了幾十個AI Agent的開發例子,我不知道大家發覺了沒有,在AI Agent開發過程中我們經常會伴隨著這樣的一些問題:
- 需要經常改貓娘;
- 需要經常改調用LLM的參數,甚至在一個流程中有3個節點,每個節點用的LLM都不一樣;
- 一個流程里如果含有多個LLM調用很耗時,但實際對于客戶來說這是“一步體驗”,那么如何即可以取得多個中間結果又可以把耗時壓縮到一次Stream調用?
- 一定都要用Stream模型?一定都要用JSON CALL?當JSON CALL含在Stream里怎么辦?
上述這4類問題,是讓所有的AI Agent開發們“撓心”的,在之前我們用langchain可以說基本能解決這些問題,可是解決后我們發覺這個代碼已經成了“屎山”,自己都看不懂也很難維護。亦或者很簡單的一個步驟因為langchain的設置、配置的原因要繞好幾層,最后開發完性能也不太好。
而現在有了Dify,這4類問題全部可以解決了,而且是可以做到生產時“可視化的配置即刻可解決”。前提是,