為什么使用 1* 1卷積核?
作用:
1、實現跨通道的交互和信息整合
2、 進行卷積核通道數的降維和升維
3、 在保持feature map尺度不變的(即不損失分辨率)的前提下大幅增加非線性特性
跨通道的交互和信息整合
使用1 * 1卷積核,實現降維和升維的操作其實就是channel間信息的線性組合變化,3 * 3,64channels的卷積核前面添加一個1 * 1,28channels的卷積核,就變成了3 * 3,28channels的卷積核,原來的64個channels就可以理解為跨通道線性組合變成了28channels,這就是通道間的信息交互。
(平均池化是針對每個feature map的平均操作,沒有通道間的交互,而1×1卷積是對通道的操作,在通道的維度上進行線性組合)
一個filter對應卷積后得到一個feature map不同的filter(不同的weight和bias),卷積以后得到不同的feature map,提取不同的特征,得到對應的specialized neuro。
卷積核的升降維度取決于卷積核的通道數!
假設輸入圖的為 32 * 32 * 3(長寬各32,通道數為3)。
使用6個 1 * 1的卷積核卷積,得到的輸出圖大小為32 * 32 * 6,(每個卷積核輸出圖在深度axis上堆疊)相當于升維。
使用2個 1 * 1的卷積核卷積,得到的輸出圖大小為32 * 32 * 2,(每個卷積核輸出圖在深度axis上堆疊)相當于降維。
1 * 1的最大的作用就是升/降特征維度(通道數),而不改變圖片的寬高。
增加非線性特性
卷積層之后經過激勵層,1*1的卷積在前一層的學習表示上添加了非線性激勵 ,增加了非線性表達能力