軟件說明
- 這個軟件本人是從零開始實現的聊天機器人。基于Ollama(PythonApi )+ Pyside,實現了聊天機器的基本功能,還有一些個性化的功能比如模型管理,敏感詞過濾,個性化主題設置,頭像設置等功能。在此開源出來與大家一起學期。
- 這個軟件適合想開發私有LLM聊天機器人的用戶,可以基于此軟件方便的進行二次開發。也適合想體驗如何從零開始實現一個LLM聊天機器人的用戶。
軟件demo演示
llm_chat_robot_release_v_1_0_0
llm_chat_robot_v1.0.0版本發布說明
- Ollama + 本地LLM + Pyside6,從零開始的實現本地LLM聊天機器人,
- 支持多輪對話,支持上下文記憶,Ollama模型管理等功能(模型的增刪查改/運行/停止全部APP內完成)
目前已經測試模型有:
deepseek-r1:1.5b/deepseek-r1:7b/deepseek-r1:8b/llama3.2:3b/qwen2.5-coder:3b/phi4-mini:3.8b/mistral:7b
針對不同的需求可以自由切換模型,比如要進行代碼編寫qwen2.5-coder:3b這種模型效果就會更好
可以自由添加更多Ollama支持的模型 - 支持模型回復Markdown文本渲染/代碼渲染/支持結果部分復制/全部復制
- 敏感詞過濾,支持自定義敏感詞庫,支持敏感詞替換
- 系統信息實時顯示,Token速率實時顯示, CPU/內存/GPU/模型信息實時顯示
- UI個性化設置,多種主題設置/頭像自定義/APP圖標自定義
- 開放模型模型參數,可以自由修改測試不同模型參數,體驗不同的效果,目前已經開放了以下參數:
temperature/top_p/num_predict/repeat_penalty/presence_penalty/frequency_penalty
mirostat/mirostat_eta/mirostat_tau/seed/stop/n_ctx/num_thread/response_mode
stream_on/save_context/save_context_length/keep_alive/system_role_desc/ollama_host/ollama_port
源碼下載鏈接
llm-chat-robot完整Python工程
軟件的使用文檔
在上面壓縮包中的llm_chat_robot_v_1_0_0_使用說明.pdf,里面詳細介紹了軟件的使用方法及python代碼如何運行。