一、前言

    Gradio提供了直觀的用戶界面，當與Fastapi結合后，用戶可以通過界面輕松地與模型進行交互，上傳數據、獲取推理結果等，使得交互性增強，提升了用戶體驗。

    在開源大語言模型遍地開花的時代，正確的使用Gradio和Fastapi，通過兩者的集成，使得模型的部署和使用過程更加簡化和規范化。

    第一篇開源模型應用落地-Gradio正確集成Fastapi-助力模型交互-入門篇（一）-CSDN博客，通過一個小Demo實現了Gradio和Fastapi的正確集成，本篇我們將把qwen1.5-7b-chat（很多老鐵私信反饋7b的模型太大，無法運行起來，其實可以根據實際情況選擇不同規格的模型，例如qwen1.5-1.8b-chat）集成進來，實現通過Gradio進行界面交互，通過Fastapi進行接口調用。

---

二、術語

2.1.Gradio

    是一個用于構建交互式界面的Python庫。它使得在Python中創建快速原型、構建和共享機器學習模型變得更加容易。

    Gradio的主要功能是為機器學習模型提供一個即時的Web界面，