🔍 為何需要神經網絡工具箱？
在僅用 Autograd 和 Tensor 實現模型時，開發者需手動設置參數梯度（requires_grad=True）、反向傳播（backward()）及梯度提取，過程繁瑣且易出錯。nn 工具箱應運而生，其核心模塊 nn.Module 和 nn.functional 大幅簡化網絡構建流程，是高效開發的關鍵。
🧩 核心模塊一：nn.Module
定位：神經網絡層或多層網絡的結構化容器。
關鍵特性：
1. 自動參數管理
- 繼承
nn.Module的自定義網絡（如class Net(nn.Module)）可自動檢測學習參數（Parameter），無需手動聲明梯度。
2. 預定義層優化
- 提供全連接層（
nn.Linear）、卷積層（nn.Conv2d）、損失層（nn.CrossEntropyLoss）等高性能內置層，均經 cuDNN 深度優化，支持 GPU 加速。
3. 模塊化組合
- 可與
nn.Sequential無縫結合，實現層間的流水線式堆疊。
?? 核心模塊二：nn.functional
定位：提供函數式接口的神經網絡操作（無狀態，無內置參數）。
典型函數：
nn.functional.linear（全連接）nn.functional.conv2d（卷積）nn.functional.cross_entropy（交叉熵損失）
? 二者核心差異與選型建議
| 對比維度 | nn.Xxx (e.g., nn.Linear) | nn.functional.xxx (e.g., F.linear) |
|---|---|---|
| 使用方式 | 先實例化層對象，再傳入輸入數據 | 直接調用函數，需手動傳入權重/偏置 |
| 參數管理 | ? 自動管理參數，支持復用 | ? 需手動定義并傳遞參數 |
| 狀態切換 | ? 自動處理訓練/測試模式（如 Dropout） | ? 需手動實現模式切換邏輯 |
| 與 nn.Sequential 兼容性 | ? 直接支持 | ? 無法直接組合使用 |
📌 官方推薦場景：
- 優先用
nn.Xxx：- 所有含可學習參數的層（如卷積、全連接、BatchNorm）。
- 可選
nn.functional.xxx：- 無參數操作（如激活函數
F.relu、池化F.max_pool2d）或自定義損失函數。
- 無參數操作（如激活函數
💎 實踐總結
1. 結構化網絡 → 選擇 nn.Module
- 優勢：參數自動追蹤、模塊化設計、訓練/測試切換自動化。
2. 輕量級操作 → 選擇 nn.functional
- 適用：簡單變換或需靈活控制參數的場景（如自定義損失函數）。
示例代碼片段：
# nn.Module 風格（推薦用于核心層）
class Net(nn.Module):def __init__(self):super().__init__()self.fc = nn.Linear(784, 256) # 自動管理參數 def forward(self, x):return F.relu(self.fc(x)) # 激活函數用 functional # 訓練時自動切換狀態
model.train() # Dropout/BatchNorm 啟用訓練模式
model.eval() # 切換到測試模式
🚀 結語
掌握 nn.Module 與 nn.functional 的分工，是構建高效、可維護PyTorch模型的基礎。核心原則：
- 參數即狀態 →
nn.Module - 純函數操作 →
nn.functional
合理搭配二者，可大幅提升開發效率與代碼可讀性！
)
