本文重點
在卷積神經網絡中有很多重要的卷積核,比如1*1的卷積核,3*3的卷積核,本文將講解1*1的卷積核的使用,它在卷積神經網絡中具有重要的地位。由于1*1的卷積核使用了最小的窗口,那么1*1的卷積核就失去了卷積層可以識別高和寬維度上相鄰元素構成的模式的功能。所以1*1的卷積核的主要計算發生在通道維上。
使用1*1卷積完成通道壓縮
對于一個 28×28×192 的輸入層,我們可以使用池化層壓縮它的高度和寬度,但如果通道數量很大,如何才能壓縮通道呢?
該如何把28×28×192壓縮為 28×28×32 維度呢?你可以用 32個大小為 1×1×192 的過濾器,也就是說你使用了 32 個過濾器,輸出層為 28×28×32,這就是壓縮通道數(nc)的方法。
我們可以認為1×1 卷積只是添加了非線性函數,所以讓網絡學習更復雜的函數,我們可以再添加一層使用192個大小為 1×1*192的過濾器,其輸入為 28×28×192,輸出為 28×28×192。這樣輸入和輸出的維度是一樣的,都是28×28×192,但是后面的輸出比前面的輸入可以認為提取到了更加復雜的特征。