1,人工神經網絡(Artificial Neural Networks,ANNs,連接模型,Connection Model)
- 模仿動物神經網絡行為特征(突觸聯接的結構),進行分布式并行信息處理的算法數學模型。
- 依靠系統的復雜程度,通過調整內部大量節點之間相互連接的關系,從而達到處理信息的目的。
2,前饋神經網絡(Feed-Forward Neural Network)
是一種最簡單的神經網絡。
1)原理
- 各神經元分層排列。
- 每個神經元只與前一層的神經元相連。接收前一層的輸出,并輸出給下一層.
- 各層間沒有反饋。
2)場景
用于進一步對特征進行非線性變換,規范化和殘差連接,有助于提升模型的訓練穩定性和效果。
3)基本結構
如下圖,以l-1
層的變量輸入,進行以w為基礎的線性變換,得到下一層l
層的輸出。
信息從前一層神經元單向傳遞到后一層神經元,