一、卷積尺寸計算公式?
二、池化?
?池化分為最大池化和平均池化
最常用的就是最大池化,可以認為最大池化不需要引入計算,而平均池化需要引出計算(計算平均數)
每種池化還分為Pooling和AdaptiveAvgPool
Pooling(2)就是每2*2個格子pooling成一個格子,相當于減半
?AdaptiveAvgPool(7)就是無論剛開始輸入特征圖有多大,最后只能變為7*7的特征圖
最后,進行拉直,還是進行Linear操作
三、計算Loss值
?我們計算Loss值,需要計算出來的概率分布,而經過卷積池化,Linear后得到的y'(上圖)不是概率分布,因此我們進行y'=Softmax(y)操作,得到真正的y'的概率分布。
?
得到y'我們就可以?計算Loss,這里就引入了?CrossEntropy Loss: 交叉熵損失,在使用中,我們可以不用關注計算過程,我們只需調用CrossEntropyLoss即可得到Loss
得到Loss之后,我們就可以使用PyTorch中的loss.backward()
方法來自動計算梯度,計算每個卷積核的梯度,更新模型。