本文記錄了如何在 3 天內使用 GPT-OSS 開源權重搭建一個 在線編程課 AI 助教追問式對話 API，從需求分析、數據準備到微調與部署全流程實戰。
1?? 需求與指標
- 回答準確率 ≥ 95%
- 響應延遲 < 1 秒
- 支持多學生并發提問
2?? 數據準備
- 收集課程問答對
- 清理無效數據、去重
- 制作訓練集和驗證集（1k 條示例）
# 示例：加載訓練數據
import pandas as pd
train_data = pd.read_csv('qa_dataset.csv')
print(train_data.head())
3?? 模型微調
- 使用 GPT-OSS 開源權重
- LoRA + Adapter 微調
- 生成專屬 Prompt，提高回答精準度
# 微調示例
from gpt_oss import GPTOSS
model = GPTOSS.load_pretrained('gpt-oss-base')
model.finetune(train_data, adapter='lora')
4?? API 部署
- 使用 FastAPI 部署接口
- 支持多線程并發
- 提供
/ask接口，學生輸入問題即可獲得回答
from fastapi import FastAPI
app = FastAPI()@app.post("/ask")
def ask(question: str):answer = model.predict(question)return {"answer": answer}
5?? 測試與優化
- 壓測 API 并記錄日志
- 常見問題優化 Prompt
- 評估準確率與響應時間
? 實戰效果
- 學生提問平均響應時間：從 10 分鐘 → 5 秒
- 回答命中率 96%
- 提升學習體驗，減少人工輔導壓力
引流提示
完整代碼、微調腳本及部署指南已托管至官網，歡迎查看并 Star 👉 官網鏈接
