8.1 卷積核計算

import torch 
from torch import nn
import matplotlib.pyplot as plt
def corr2d(X,k):#計算二維互相關運算h,w=k.shape#卷積核的長和寬Y=torch.zeros((X.shape[0]-h+1,X.shape[1]-w+1))#創建(X-H+1,X-W+1)的全零矩陣for i in range(Y.shape[0]):for j in range(Y.shape[1]):Y[i,j]=(X[i:i+h,j:j+w]*k).sum()#不指定dim的話是全部都加載一起#print(X[i:i+h,j:j+w]*k)return Y
X = torch.tensor([[0.0, 1.0, 2.0], [3.0, 4.0, 5.0], [6.0, 7.0, 8.0]])
K = torch.tensor([[0.0, 1.0], [2.0, 3.0]])
Y=corr2d(X, K)

8.2 卷積核邊緣計算

import torch 
from torch import nn
import matplotlib.pyplot as plt
def corr2d(X,k):#計算二維互相關運算h,w=k.shape#卷積核的長和寬Y=torch.zeros((X.shape[0]-h+1,X.shape[1]-w+1))#創建(X-H+1,X-W+1)的全零矩陣for i in range(Y.shape[0]):for j in range(Y.shape[1]):Y[i,j]=(X[i:i+h,j:j+w]*k).sum()#不指定dim的話是全部都加載一起#print(X[i:i+h,j:j+w]*k)return Y
X = torch.ones((6, 8))
X[:, 2:6] = 0
K=torch.tensor([[1.0,-1.0]])
Y=corr2d(X,K)#這樣檢測之后如果兩個水平相鄰的元素相同則輸出為0，否則則是非0元素
print(Y)

8.3 卷積核學習設計

#卷積層設計--學習卷積核
import torch 
from torch import nn
import matplotlib.pyplot as plt
def corr2d(X,k):#計算二維互相關運算h,w=k.shape#卷積核的長和寬Y=torch.zeros((X.shape[0]-h+1,X.shape[1]-w+1))#創建(X-H+1,X-W+1)的全零矩陣for i in range(Y.shape[0]):for j in range(Y.shape[1]):Y[i,j]=(X[i:i+h,j:j+w]*k).sum()#不指定dim的話是全部都加載一起#print(X[i:i+h,j:j+w]*k)return Y
class Conv2D(nn.Module):def __init__(self, kernel_size):super().__init__()self.weight=nn.Parameter(torch.rand(kernel_size))self.bias=nn.Parameter(torch.zeros(1))def forward(self,x):return corr2d(x,self.weight)+self.bias
X = torch.ones((6, 8))
X[:, 2:6] = 0
K=torch.tensor([[1.0,-1.0]])
Y = corr2d(X, K)
conv2d=Conv2D(kernel_size=(1,2))
optimizer=torch.optim.SGD(conv2d.parameters(),lr=0.05)
for epoch in range(500):out=conv2d(X)loss=((out-Y)**2).mean()optimizer.zero_grad()loss.backward()optimizer.step()print(f"Epoch {epoch+1}, loss = {loss.item():.4f}")
print(conv2d.weight.data)
print(conv2d.bias.data)

8.4 Q&A

1.沒有什么本質區別，兩者其實是一樣的
2.權重變形只是數學算法上推理理解的概念，重新索引是指將權重矩陣的坐標與卷積結果的位置匹配上，所以要用到i,j,a,b四個維度的坐標。
3.圖像輸入進來就是矩陣了，在前面只不過是由于機器學習分類器的緣故必須做flatten操作，卷積神經網絡就沒有必要做這個操作了，本質上其就是個二維矩陣。
4.沒有特定的要求一般不用可變卷積
5.感受野是局部的感受，但是隨著卷積肯定能看完所有的圖像信息，那我不妨把感受野設計小一些，讓模型看的更仔細，然后在深層網絡中一步一步提取逐漸變深。
6.當然可以了，有相關的文章。
7.-號在數學中相當于卷積核反過來計算，這樣的結果可能有些不一樣了，但可能只是和FFT公示推導有關系，深度學習的卷積是正常的做corr相關計算的。
8.平移不變指的是卷積核的數是在這一卷積操作過程中平移不變的，卷積核的大小體現了局部性。