學習大模型的流程是什么?？

• 提示詞工程：只需掌握提問技巧即可使用大模型，通過優化提問方式獲得更精準的模型輸出
• 套殼應用開發：在大模型生態上開發業務層產品（如AI主播、AI小助手等），只需調用API或使用零代碼部署工具
• 私有知識庫構建：通過API調用大模型時，為其配備向量數據庫和知識圖譜作為外掛資料庫
• AI Agent開發：為大模型添加記憶體、手和腳，使其具備決策和工作能力的智能體
• 模型微調：調整大模型參數使其輸出更符合特定需求
• 部署與訓練：最高階應用，包括大模型的本地部署和訓練

1. 編程語言（Python）

• 核心作用：Python是大模型領域的通用語言，因其簡潔語法、豐富的庫（如NumPy、PyTorch）和活躍的生態。

• 學習重點：基礎語法、列表/字典等數據結構、面向對象編程、文件操作等。

• 意義：是后續學習其他技術的工具基礎。

---

2. 向量數據庫

• 本質：將文本、圖像等數據轉化為多維向量（如[0.2, -0.5, 0.7]）存儲，通過向量相似度（如余弦相似度）實現高效檢索。

• 代表工具：

  • Chroma：輕量級，適合快速原型開發。

  • FAISS（Facebook研發）：高性能向量搜索庫，支持億級數據。

• 應用場景：大模型的長期記憶存儲（如用戶歷史對話）、私有知識庫構建。

---

3. LangChain編程框架

• 定位：連接大模型與外部工具（如數據庫、API）的"膠水框架"。

• 六大組件：

  1. Model：集成OpenAI、HuggingFace等模型。

  2. Prompt：優化提示詞（如Few-shot Learning模板）。

  3. Memory：保存對話歷史（通過向量數據庫）。

  4. Index：處理PDF/HTML等非結構化數據。

  5. Chain：組合多個步驟（如先檢索知識再生成回答）。

  6. Agent：讓模型自主調用工具（如計算器、搜索引擎）。

• 典型應用：構建帶知識庫的客服機器人、自動化工作流。

---

4. 本地部署開源模型

• 模型選擇：

  • 小模型（如ChatGLM-6B、BLOOM-7B）：適合消費級GPU（如RTX 3090）部署。

  • 大模型（如LLaMA-2-70B）：需專業級硬件（如A100集群）。

• 部署建議：

  • 云方案：AWS SageMaker、阿里云PAI，按需付費。

  • 本地部署：需考慮顯存（如6B模型約需12GB顯存）、量化技術（降低精度節省資源）。

---

5. 機器學習基礎

• 四類算法：

  • 分類：邏輯回歸、SVM（如垃圾郵件識別）。

  • 回歸：線性回歸（預測房價）。

  • 聚類：K-Means（用戶分群）。

  • 降維：PCA（可視化高維數據）。

• 模型評估：

  • 交叉驗證：防止數據劃分偏差。

  • 過擬合：模型在訓練集表現好但測試集差（解決方案：正則化、早停）。

---

6. 深度學習基礎

• 經典網絡：

  • CNN：處理圖像（卷積核提取局部特征）。

  • RNN：處理序列（如時間序列預測），但存在梯度消失問題。

• Transformer：

  • Self-Attention：計算詞與詞的相關性（如"it"指代"cat"還是"dog"）。

  • 基石地位：GPT、BERT均基于此架構。

---

7. NLP基礎知識

• 技術演進：

  • TF-IDF：統計詞頻（傳統搜索引擎）。

  • Word2Vec：詞向量（"國王-男人+女人≈女王"）。

  • BERT：上下文相關詞向量（"bank"在河道或金融場景含義不同）。

• NLU vs NLG：

  • NLU（理解）：如情感分析、實體識別。

  • NLG（生成）：如寫詩、摘要。

---

8. 大語言模型架構

• 三大類型：

  1. 編碼器-解碼器（如T5）：適合翻譯任務。

  2. 純解碼器（如GPT）：自回歸生成文本。

  3. 純編碼器（如BERT）：適合分類任務。

• 趨勢：GPT類生成式模型當前主導地位。

---

9. 開源模型高階技術

• PEFT（參數高效微調）：

  • LoRA：僅訓練低秩矩陣，節省顯存。

  • Adapter：插入小型網絡模塊。

• RLHF（強化學習對齊人類偏好）：ChatGPT的核心技術之一。

• 模型壓縮：

  • 量化：FP32 → INT8（損失少量精度）。

  • 蒸餾：大模型指導小模型（如DistilBERT）。