Class10簡潔實現

import torch
from torch import nn
from d2l import torch as d2l

# 輸入為28*28，輸出為10類，第1、2隱藏層256神經元
num_inputs, num_outputs, num_hiddens1, num_hiddens2 = 784, 10, 256, 256
# 第1個隱藏層丟棄率為0.2，第2個為0.5
dropout1, dropout2 = 0.2, 0.5

# nn.Flatten():把28*28展平為784
net = nn.Sequential(nn.Flatten(),# 輸入層->第1隱藏層nn.Linear(784, 256),# ReLU激活nn.ReLU(),# 在第一個全連接層之后添加一個dropout層nn.Dropout(dropout1),# 第1隱藏層->第2隱藏層nn.Linear(256, 256),# ReLU激活nn.ReLU(),# 在第二個全連接層之后添加一個dropout層nn.Dropout(dropout2),# 第2隱藏層->輸出10類nn.Linear(256, 10))# 初始化權重函數
def init_weights(m):# 判斷如果為線性if type(m) == nn.Linear:# 正態分布初始化，均值為0，標準差為0.01nn.init.normal_(m.weight, std=0.01)
# 若為nn.Linear，則調用init_weight函數進行初始化
net.apply(init_weights);

# 設置訓練輪數，學習率，批次大小
num_epochs,lr,batch_size = 10,0.5,256
# 定義損失函數，并保留每個樣本損失
loss = nn.CrossEntropyLoss(reduction='none')
# 加載訓練集和測試集
train_iter,test_iter = d2l.load_data_fashion_mnist(batch_size)
# 設置SGD隨機梯度下降優化器
trainer = torch.optim.SGD(net.parameters(),lr=lr)
# 調用訓練主函數
d2l.train_ch3(net,train_iter,test_iter,loss,num_epochs,trainer)