修改YOLOv5的模型結構第三彈

🍨 本文為🔗365天深度學習訓練營中的學習記錄博客
🍖 原作者：K同學啊 | 接輔導、項目定制
🚀 文章來源：K同學的學習圈子

文章目錄

任務
任務拆解

開始修改
C2模塊
修改yolo.py
修改模型配置文件

模型訓練

上次已經做了一個對YOLOv5的魔改任務，這次繼續魔改。使用的素材還是之前說到的C2模塊，但這次會對模型進行范圍更大的修改

任務

將原模型修改為新模型
原模型如圖：

新模型如圖：

任務拆解

首先分析兩個模型之間的改動有哪些

第4層的C3*2修改為了C2*2
第6層的C3*3修改為了C3*1
移除了第7層的卷積
移除了第8層的C3*1

其中C2模塊是由C3模塊修改而來，在之前的博客中也提到過，這里貼下圖

開始修改

C2模塊

首先還是要先編寫一個C2模塊。打開models/common.py在class C3附近新建一個我們的C2模塊

class C3(nn.Module):# CSP Bottleneck with 3 convolutionsdef __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):  # ch_in, ch_out, number, shortcut, groups, expansionsuper().__init__()c_ = int(c2 * e)  # hidden channelsself.cv1 = Conv(c1, c_, 1, 1)self.cv2 = Conv(c1, c_, 1, 1)self.cv3 = Conv(2 * c_, c2, 1)  # optional act=FReLU(c2)self.m = nn.Sequential(*(Bottleneck(c_, c_, shortcut, g, e=1.0) for _ in range(n)))def forward(self, x):return self.cv3(torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1))class C2(nn.Module):def __init__(self, c1, c2, n=1, shortcut=True, g=1, e=0.5):super().__init__()c_1 = c2 // 2c_2 = c2 - c_1self.cv1 = Conv(c1, c_2, 1, 1)self.cv2 = Conv(c1, c_1, 1, 1)self.m = nn.Sequential(*(Bottleneck(c_2, c_2, shortcut, g, e=1.0) for _ in range(n)))def forward(self, x):return torch.cat((self.m(self.cv1(x)), self.cv2(x)), 1)

修改yolo.py

修改yolo.py中函數parse_model中的代碼，使模型支持我們剛寫的C2模塊

def parse_model(d, ch):  # model_dict, input_channels(3)# Parse a YOLOv5 model.yaml dictionaryLOGGER.info(f"\n{'':>3}{'from':>18}{'n':>3}{'params':>10}  {'module':<40}{'arguments':<30}")anchors, nc, gd, gw, act = d['anchors'], d['nc'], d['depth_multiple'], d['width_multiple'], d.get('activation')if act:Conv.default_act = eval(act)  # redefine default activation, i.e. Conv.default_act = nn.SiLU()LOGGER.info(f"{colorstr('activation:')} {act}")  # printna = (len(anchors[0]) // 2) if isinstance(anchors, list) else anchors  # number of anchorsno = na * (nc + 5)  # number of outputs = anchors * (classes + 5)layers, save, c2 = [], [], ch[-1]  # layers, savelist, ch outfor i, (f, n, m, args) in enumerate(d['backbone'] + d['head']):  # from, number, module, argsm = eval(m) if isinstance(m, str) else m  # eval stringsfor j, a in enumerate(args):with contextlib.suppress(NameError):args[j] = eval(a) if isinstance(a, str) else a  # eval stringsn = n_ = max(round(n * gd), 1) if n > 1 else n  # depth gain# 在這個集合中增加了C2模塊if m in {Conv, GhostConv, Bottleneck, GhostBottleneck, SPP, SPPF, DWConv, MixConv2d, Focus, CrossConv,BottleneckCSP, C3, C2, C3TR, C3SPP, C3Ghost, nn.ConvTranspose2d, DWConvTranspose2d, C3x}: c1, c2 = ch[f], args[0]if c2 != no:  # if not outputc2 = make_divisible(c2 * gw, 8)args = [c1, c2, *args[1:]]# 這這個集合中也增加了C2模塊if m in {BottleneckCSP, C3, C2, C3TR, C3Ghost, C3x}: args.insert(2, n)  # number of repeatsn = 1elif m is nn.BatchNorm2d:args = [ch[f]]elif m is Concat:c2 = sum(ch[x] for x in f)# TODO: channel, gw, gdelif m in {Detect, Segment}:args.append([ch[x] for x in f])if isinstance(args[1], int):  # number of anchorsargs[1] = [list(range(args[1] * 2))] * len(f)if m is Segment:args[3] = make_divisible(args[3] * gw, 8)elif m is Contract:c2 = ch[f] * args[0] ** 2elif m is Expand:c2 = ch[f] // args[0] ** 2else:c2 = ch[f]m_ = nn.Sequential(*(m(*args) for _ in range(n))) if n > 1 else m(*args)  # modulet = str(m)[8:-2].replace('__main__.', '')  # module typenp = sum(x.numel() for x in m_.parameters())  # number paramsm_.i, m_.f, m_.type, m_.np = i, f, t, np  # attach index, 'from' index, type, number paramsLOGGER.info(f'{i:>3}{str(f):>18}{n_:>3}{np:10.0f}  {t:<40}{str(args):<30}')  # printsave.extend(x % i for x in ([f] if isinstance(f, int) else f) if x != -1)  # append to savelistlayers.append(m_)if i == 0:ch = []ch.append(c2)return nn.Sequential(*layers), sorted(save)

修改模型配置文件

參考models/yolov5s.yaml來修改模型的配置
對照著剛才識別到的改動來操作

第4層的C3*2修改為了C2*2
將backbone下面的數組第4個元素中的C3修改為C2

# 舊[-1, 6, C3, [256]],
# 新[-1, 6, C2, [256]],

第6層的C3*3修改為了C3*1
將backbone下面的數組第6個元素中的 number由9修改為3

# 舊[-1, 9, C3, [512]],
# 新[-1, 3, C3, [512]]

移除了第7層的卷積
移除了第8層的C3*1
刪除backbone中第7個和第8個元素

   [-1, 1, Conv, [1024, 3, 2]],  # 7-P5/32[-1, 3, C3, [1024]],

修改到當前這一步，我以為就已經完成了，但是實際上只完成了一半。
通過對前面知識的回顧，Concat模塊會引用上層的模塊的輸出，體現在配置文件中，就是會引用數組中的下標，但是我們在數組中刪除了兩個元素，會使數組原本的索引失效。
通過上面的模型結構圖也可以發現，刪除兩層后，6層以后的下標都要減2。于是修改配置文件中的head下面的配置

# YOLOv5 v6.0 head
head:[[-1, 1, Conv, [512, 1, 1]],[-1, 1, nn.Upsample, [None, 2, 'nearest']],[[-1, 6], 1, Concat, [1]],  # 6 不用修改[-1, 3, C3, [512, False]],  # 13[-1, 1, Conv, [256, 1, 1]],[-1, 1, nn.Upsample, [None, 2, 'nearest']],[[-1, 4], 1, Concat, [1]],  # 4 不用修改[-1, 3, C3, [256, False]],  # 17 (P3/8-small)[-1, 1, Conv, [256, 3, 2]],[[-1, 14], 1, Concat, [1]],  # 原來的14現在是12了[-1, 3, C3, [512, False]],  # 20 (P4/16-medium)[-1, 1, Conv, [512, 3, 2]],[[-1, 10], 1, Concat, [1]],  # 原來的10現在是8了[-1, 3, C3, [1024, False]],  # 23 (P5/32-large)[[17, 20, 23], 1, Detect, [nc, anchors]],  # 原來的17,20,23對應現在的15,18,21]

如此改完后，我又一次認為已經完成了，但是跑了一下卻報錯了。如圖：
報錯圖
通過錯誤信息可以發現是特征圖的維度不一致導致的。于是回頭分析我們所有的改動，C2模塊天生就和C3模塊的輸入和輸出維度一樣，所有可以無縫替換、增加到模型中。另外之所以可以實現C3*n的效果，就是因為單個模塊的輸入和輸出也一樣。
所以問題不會出現在對C3->C2的改動。剩下的就是刪除了兩層中有一層是卷積。于是回頭看了一下刪除的卷積的，[-1, 1, Conv, [1024, 3, 2]]，它的kernelsize是3，stride是2，這是一個會讓特征圖的尺寸縮小一半的卷積，由于我們刪除了它，后面的流程中特征圖的尺寸會和原來有所不同，最終導致錯誤。我們需要想辦法彌補這個差異。
在head的第一層中，使用了一個1x1的卷積，我們把它修改為kernelsize=3,stride=2的卷積。

# 前
head:[[-1, 1, Conv, [512, 1, 1]],
# 后
head:[[-1, 1, Conv, [512, 3, 2]],

最終模型配置文件被修改為

# YOLOv5 🚀 by Ultralytics, AGPL-3.0 license# Parameters
nc: 80  # number of classes
depth_multiple: 0.33  # model depth multiple
width_multiple: 0.50  # layer channel multiple
anchors:- [10,13, 16,30, 33,23]  # P3/8- [30,61, 62,45, 59,119]  # P4/16- [116,90, 156,198, 373,326]  # P5/32# YOLOv5 v6.0 backbone
backbone:# [from, number, module, args][[-1, 1, Conv, [64, 6, 2, 2]],  # 0-P1/2[-1, 1, Conv, [128, 3, 2]],  # 1-P2/4[-1, 3, C3, [128]],[-1, 1, Conv, [256, 3, 2]],  # 3-P3/8[-1, 6, C2, [256]],[-1, 1, Conv, [512, 3, 2]],  # 5-P4/16[-1, 3, C3, [512]],[-1, 1, SPPF, [1024, 5]],  # 7]# YOLOv5 v6.0 head
head:[[-1, 1, Conv, [512, 3, 2]],                        # 8 必須使用stride=2來彌補backbone中刪除的卷積，不然后面特征圖的尺寸對不上[-1, 1, nn.Upsample, [None, 2, 'nearest']],        # 9[[-1, 6], 1, Concat, [1]],  # cat backbone P4       10[-1, 3, C3, [512, False]],  #                       11[-1, 1, Conv, [256, 1, 1]], #                       12[-1, 1, nn.Upsample, [None, 2, 'nearest']], #       13[[-1, 4], 1, Concat, [1]],  # cat backbone P3       14[-1, 3, C3, [256, False]],  #  (P3/8-small)         15[-1, 1, Conv, [256, 3, 2]],                       # 16[[-1, 12], 1, Concat, [1]], # cat head P4           17[-1, 3, C3, [512, False]],  # (P4/16-medium)        18[-1, 1, Conv, [512, 3, 2]],                       # 19[[-1, 8], 1, Concat, [1]], # cat head P5            20[-1, 3, C3, [1024, False]], #  (P5/32-large)        21[[15, 18, 21], 1, Detect, [nc, anchors]],  # Detect(P3, P4, P5)]