如果需要在獨立于訓練腳本的新腳本中部署模型，這種情況模型和權重在內存中不存在，因此需要構造一個模型類的對象，然后將存儲的權重加載到模型中。

加載模型參數，驗證模型的性能，并在測試數據集上部署模型

from torch import nn
from torchvision import models# 定義一個resnet18模型，不使用預訓練參數
model_resnet18 = models.resnet18(pretrained=False)
# 獲取模型的全連接層的輸入特征數
num_ftrs = model_resnet18.fc.in_features
# 定義分類的類別數
num_classes=10
# 將全連接層的輸出特征數改為分類的類別數
model_resnet18.fc = nn.Linear(num_ftrs, num_classes)import torch 
path2weights="./models/resnet18_pretrained.pt"
# 加載預訓練的ResNet18模型權重
model_resnet18.load_state_dict(torch.load(path2weights))
# 將ResNet-18模型設置為評估模式
model_resnet18.eval();
# 檢查CUDA是否可用
if torch.cuda.is_available():# 如果可用，將設備設置為CUDAdevice = torch.device("cuda")# 將模型移動到CUDA設備上model_resnet18=model_resnet18.to(device)def deploy_model(model,dataset,device, num_classes=10,sanity_check=False):# 獲取數據集的長度len_data=len(dataset)# 初始化輸出張量y_out=torch.zeros(len_data,num_classes)# 初始化真實標簽張量y_gt=np.zeros((len_data),dtype="uint8")# 將模型移動到指定設備model=model.to(device)# 初始化時間列表elapsed_times=[]with torch.no_grad():for i in range(len_data):# 獲取數據集中的一個樣本x,y=dataset[i]# 將真實標簽存入張量y_gt[i]=y# 記錄開始時間start=time.time()    # 將輸入數據傳入模型進行預測yy=model(x.unsqueeze(0).to(device))# 將預測結果存入張量y_out[i]=torch.softmax(yy,dim=1)# 計算預測時間elapsed=time.time()-start# 將預測時間存入列表elapsed_times.append(elapsed)# 如果進行完整性檢查，則跳出循環if sanity_check is True:break# 計算平均預測時間inference_time=np.mean(elapsed_times)*1000# 打印平均預測時間print("average inference time per image on %s: %.2f ms " %(device,inference_time))# 返回預測結果和真實標簽return y_out.numpy(),y_gt

from torchvision import datasets
import torchvision.transforms as transforms# 數據轉換
data_transformer = transforms.Compose([transforms.ToTensor()])path2data="./data"# 加載數據
test0_ds=datasets.STL10(path2data, split='test', download=True,transform=data_transformer)
print(test0_ds.data.shape)

from sklearn.model_selection import StratifiedShuffleSplit# 創建StratifiedShuffleSplit對象，設置分割次數為1，測試集大小為0.2，隨機種子為0
sss = StratifiedShuffleSplit(n_splits=1, test_size=0.2, random_state=0)# 獲取test0_ds的索引
indices=list(range(len(test0_ds)))# 獲取test0_ds的標簽
y_test0=[y for _,y in test0_ds]# 對索引和標簽進行分割
for test_index, val_index in sss.split(indices, y_test0):# 打印測試集和驗證集的索引print("test:", test_index, "val:", val_index)# 打印測試集和驗證集的大小print(len(val_index),len(test_index))

from torch.utils.data import Subset# 從test0_ds中選取val_index索引的子集，賦值給val_ds
val_ds=Subset(test0_ds,val_index)
# 從test0_ds中選取test_index索引的子集，賦值給test_ds
test_ds=Subset(test0_ds,test_index)
# 定義均值
mean=[0.4467106, 0.43980986, 0.40664646]
# 定義標準差
std=[0.22414584,0.22148906,0.22389975]
# 定義一個名為test0_transformer的變量，用于將一系列的圖像變換操作組合在一起
test0_transformer = transforms.Compose([# 將圖像轉換為Tensor類型transforms.ToTensor(),# 對圖像進行歸一化操作，使用mean和std作為均值和標準差transforms.Normalize(mean, std),])   
# 將test0_transformer賦值給test0_ds的transform屬性
test0_ds.transform=test0_transformer

import time
import numpy as np# 調用deploy_model函數，傳入model_resnet18,val_ds,device和sanity_check參數，返回y_out和y_gt
y_out,y_gt=deploy_model(model_resnet18,val_ds,device=device,sanity_check=False)
# 打印y_out和y_gt的形狀
print(y_out.shape,y_gt.shape)

from sklearn.metrics import accuracy_score# 將y_out中的最大值索引賦值給y_pred
y_pred = np.argmax(y_out,axis=1)
# 打印y_pred和y_gt的形狀
print(y_pred.shape,y_gt.shape)# 計算并打印y_pred和y_gt的準確率
acc=accuracy_score(y_pred,y_gt)
print("accuracy: %.2f" %acc)

?

# 部署模型，得到預測結果和真實標簽
y_out,y_gt=deploy_model(model_resnet18,test_ds,device=device)# 取出預測結果中概率最大的類別
y_pred = np.argmax(y_out,axis=1)# 計算準確率
acc=accuracy_score(y_pred,y_gt)# 打印準確率
print(acc)

from torchvision import utils
import matplotlib.pyplot as plt
import numpy as np
%matplotlib inline
np.random.seed(1)# 定義一個函數，用于顯示圖像
def imshow(inp, title=None):# 定義圖像的均值和標準差mean=[0.4467106, 0.43980986, 0.40664646]std=[0.22414584,0.22148906,0.22389975]# 將圖像從tensor轉換為numpy數組，并轉置inp = inp.numpy().transpose((1, 2, 0))# 將均值和標準差轉換為numpy數組mean = np.array(mean)std = np.array(std)# 將圖像的像素值進行歸一化inp = std * inp + mean# 將像素值限制在0和1之間inp = np.clip(inp, 0, 1)# 顯示圖像plt.imshow(inp)# 如果有標題，則顯示標題if title is not None:plt.title(title)# 暫停0.001秒plt.pause(0.001) # 定義網格大小
grid_size=16
# 隨機生成4個索引
rnd_inds=np.random.randint(1,len(test_ds),grid_size)
# 打印隨機生成的索引
print("image indices:",rnd_inds)# 根據索引獲取對應的圖像和標簽
x_grid_test=[test_ds[i][0] for i in rnd_inds]
y_grid_test=[(y_pred[i],y_gt[i]) for i in rnd_inds]# 將圖像轉換為網格
x_grid_test=utils.make_grid(x_grid_test, nrow=4, padding=2)
# 打印網格的形狀
print(x_grid_test.shape)# 設置圖像的大小
plt.rcParams['figure.figsize'] = (10, 10)
# 顯示網格
imshow(x_grid_test,y_grid_test)