假設場景
- 輸入圖像:一張極小的
?灰度圖(即 H=2,W=2,共4個像素),像素值如圖所示:
- 隱藏層:假設隱藏層也是
(即 H=2,W=2,共4個神經元),每個神經元用
(?表示(i=1,2 是行,j=1,2 是列)。
一、全連接的“參數數量”為什么是 H×W×H×W?
關鍵:每個隱藏層神經元都要和輸入圖像的 所有像素 連接,且每個連接都有一個獨立的權重。
- 輸入圖像像素數量:H×W=2×2=4(每個像素坐標
,
,
)。
- 隱藏層神經元數量:
(每個神經元坐標
,
,
)。
每個神經元需要多少權重?
以隱藏層神經元 為例:它要連接輸入圖像的 所有4個像素,所以需要 4個權重(每個像素對應一個權重)。
總權重數量:
總權重=隱藏層神經元數量×每個神經元的權重數量=4×4=16
對應公式中的
二、計算過程:如何通過“累加”得到隱藏層神經元值?
以隱藏層神經元
?為例,一步步計算它的值?
步驟1:明確神經元?
?的權重(假設權重值如下)
權重 是一個4階矩陣(可以理解為“每個神經元有一組權重”),這里簡化為:神經元
?的權重為一個
?的矩陣(對應輸入圖像的4個像素):
(符號中,前兩個下標
表示隱藏層神經元,后兩個下標
?表示輸入圖像像素。)
步驟2:每個像素乘以對應權重
輸入圖像的4個像素分別為:
:
,對應權重
→ 乘積:
:
,對應權重
→ 乘積:
:
,對應權重
?→ 乘積:
:
,對應權重
→ 乘積:
步驟3:累加所有乘積結果(關鍵!)
這就是“累加結果”的過程:把所有像素與對應權重的乘積加起來,得到神經元的輸出值。
三、隱藏層的4個神經元都要這樣算!
上面只算了隱藏層的1個神經元 ,但還有
、
、
?三個神經元,每個神經元都有 自己獨立的4個權重,都要重復上述“像素×權重→累加”的過程。
- 例如神經元
?的權重可能是
????????,計算方式完全相同;
- 4個神經元 × 每個4個權重 = 16個權重(對應前面的參數數量)。
為什么要“累加”?一句話總結
每個神經元像一個“小計算器”,它需要綜合輸入圖像的 所有信息(全連接特性),而“加權求和”(像素×權重后累加)是綜合信息最簡單的方式(就像你期末考試時,把各科成績乘以學分后相加得到總分)。
視覺化比喻
- 輸入圖像的4個像素 = 4個學生的成績;
- 隱藏層神經元 1,1
(1,1) = 一個“總成績計算器”;
- 權重 = 各科成績的“學分”(不同計算器可以設置不同學分);
- 累加結果 = 學生的“加權總分”(神經元的輸出值)。