1×1卷積的作用與原理詳解

引言

在深度學習特別是卷積神經網絡(CNN)的中，1×1卷積操作看似簡單，卻有著重要的作用。本文將詳細介紹1×1卷積的工作原理及其在深度學習模型中的多種作用，特別是在通道數調整和特征融合方面的應用。

1. 什么是1×1卷積？

1×1卷積，顧名思義，是使用大小為1×1的卷積核進行的卷積操作。與傳統的3×3、5×5等卷積核不同，1×1卷積核在空間維度上不進行擴展，僅在通道維度上進行操作。

假設輸入特征圖的尺寸為 $H\times W\times C_{in}$（高度×寬度×輸入通道數），1×1卷積層包含 $C_{out}$ 個卷積核（也就是說，這個1×1卷積層的尺寸為 $1\times 1\times C_{out}$ ），則輸出特征圖的尺寸為 $H\times W\times C_{out}$。

（敲黑板：希望讀者能夠真正理解上述公式，從而就能夠理解3.1中所述的：1×1卷積為什么能夠改變通道數。）

2. 1×1卷積的數學表達

對于輸入特征圖 $X\in {\mathbb{R}}^{H\times W\times C_{in}}$，1×1卷積的數學表達式為：

$$Y(i,j,n)=\sum _{c=1}^{C_{in}}X(i,j,c)?W(1,1,c,n)+b(n)$$

其中：

• $Y(i,j,n)$ 是輸出特征圖在位置 $(i,j)$ 處第 $n$ 個通道的值
• $X(i,j,c)$ 是輸入特征圖在位置 $(i,j)$ 處第 $c$ 個通道的值
• $W(1,1,c,n)$ 是第 $n$ 個卷積核在第 $c$ 個輸入通道上的權重
• $b(n)$ 是第 $n$ 個卷積核的偏置項

3. 1×1卷積的主要作用

3.1 改變通道數（升維/降維）

1×1卷積最直觀的作用是改變特征圖的通道數，這在網絡架構設計中非常有用：

3.1.1 降維（Dimension Reduction）

當 $C_{out}<C_{in}$ 時，1×1卷積起到降維的作用。這可以顯著減少參數量和計算量。

例如，假設輸入特征圖尺寸為 $56\times 56\times 256$，使用64個1×1卷積核后，輸出特征圖尺寸變為 $56\times 56\times 64$，參數量為 $256\times 64+64=16448$（權重+偏置）。

降維操作可以表示為：

$$Y_{reduced}=f(X?W_{1\times 1}+b)$$

其中 $f$ 是激活函數，通常是ReLU。

3.1.2 升維（Dimension Increase）

當 $C_{out}>C_{in}$ 時，1×1卷積起到升維的作用，可以增加特征的表達能力。

3.2 特征融合（Feature Fusion）

1×1卷積的另一個重要作用是進行特征融合，這實際上是對通道維度的信息進行重組和整合。

從數學角度看，1×1卷積對每個空間位置 $(i,j)$ 執行的操作可以看作是一個全連接層：

$$Y(i,j,:)=W?X(i,j,:)+b$$

這里 $X(i,j,:)$ 是位置 $(i,j)$ 處所有通道的向量，$W$ 是權重矩陣。

通過這種方式，1×1卷積實現了通道間的信息交互和融合，學習通道間的相關性，從而生成新的、更有表達力的特征表示。

3.3 增加非線性

每個1×1卷積后通常會跟隨一個非線性激活函數（如ReLU），這為網絡引入了額外的非線性，增強了模型的表達能力：

$$Y=f(X?W_{1\times 1}+b)$$

其中 $f$ 是非線性激活函數，$?$ 表示卷積操作。

4. 1×1卷積在經典網絡中的應用

4.1 Network in Network (NiN)

1×1卷積最早在Lin等人提出的Network in Network架構中被引入。NiN使用1×1卷積來增強局部模型的抽象能力。[1]

4.2 GoogLeNet (Inception)

在GoogLeNet的Inception模塊中，1×1卷積被用于在3×3和5×5卷積前進行降維，顯著減少了計算復雜度。

例如，對于一個 $28\times 28\times 256$ 的輸入，直接應用64個5×5卷積核需要計算：
$28\times 28\times 5\times 5\times 256\times 64=51,380,224$ 次乘法操作

而先使用32個1×1卷積核降維，再應用64個5×5卷積核：

• 1×1卷積：$28\times 28\times 1\times 1\times 256\times 32=6,422,528$ 次乘法
• 5×5卷積：$28\times 28\times 5\times 5\times 32\times 64=6,422,528$ 次乘法
• 總計：$12,845,056$ 次乘法，僅為原來的約1/4

4.3 ResNet的瓶頸結構

在ResNet的瓶頸(Bottleneck)結構中，使用了1×1-3×3-1×1的連續卷積組合，其中第一個1×1卷積用于降維，最后一個1×1卷積用于升維，大大減少了模型的參數量和計算量。

5. 1×1卷積的優勢總結

1. 參數效率：通過降維減少參數量和計算復雜度
2. 特征重組：在通道維度上重組特征，增強特征表達
3. 增加網絡深度：以較小的計算代價增加網絡深度和非線性
4. 跨通道信息整合：學習通道間的相關性和依賴關系

6. 代碼實現示例

以PyTorch為例，1×1卷積的實現實例如下所示：

import torch.nn as nn# 定義一個1×1卷積層，將256通道降維到64通道
conv1x1 = nn.Conv2d(in_channels=256, out_channels=64, kernel_size=1)# 在瓶頸結構中的應用
class Bottleneck(nn.Module):def __init__(self, in_channels, bottleneck_channels, out_channels):super(Bottleneck, self).__init__()self.conv1 = nn.Conv2d(in_channels, bottleneck_channels, kernel_size=1)self.bn1 = nn.BatchNorm2d(bottleneck_channels)self.conv2 = nn.Conv2d(bottleneck_channels, bottleneck_channels, kernel_size=3, padding=1)self.bn2 = nn.BatchNorm2d(bottleneck_channels)self.conv3 = nn.Conv2d(bottleneck_channels, out_channels, kernel_size=1)self.bn3 = nn.BatchNorm2d(out_channels)self.relu = nn.ReLU(inplace=True)def forward(self, x):identity = xout = self.conv1(x)out = self.bn1(out)out = self.relu(out)out = self.conv2(out)out = self.bn2(out)out = self.relu(out)out = self.conv3(out)out = self.bn3(out)out += identityout = self.relu(out)return out

7. 結論

1×1卷積雖然在空間維度上看似簡單，但在深度學習模型設計中扮演著至關重要的角色。它不僅能夠有效地調整特征圖的通道數，還能在通道維度上融合特征，增加網絡的非線性，同時保持計算效率。理解和靈活運用1×1卷積，對于設計高效的深度學習模型至關重要。

---

參考文獻

1. Lin, M., Chen, Q., & Yan, S. (2013). Network in network. arXiv preprint arXiv:1312.4400. [👉論文PDF鏈接點擊這里👈]
2. Szegedy, C., et al. (2015). Going deeper with convolutions. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. [👉論文PDF鏈接點擊這里👈]
3. He, K., Zhang, X., Ren, S., & Sun, J. (2016). Deep residual learning for image recognition. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition. [👉論文PDF鏈接點擊這里👈]

---

以上是關于1×1卷積作用與原理的詳細介紹，相信你已經對1×1卷積在改變通道數和特征融合方面的作用有了一定的理解😊
在實際的深度學習模型設計中，合理利用1×1卷積可以顯著提高模型的效率和性能。