數據集的制作
將labelme生成的標注文件記普通的json文件轉成coco數據集格式的json文件
圖像分辨率過大
如果不做任何調整:
會出現“killed”的報錯,表示圖片像素過大,顯卡內存不夠,無法支撐訓練
顯卡
換成更高性能的顯卡,A40,運行成功,但是mAP只有15%。
?嘗試用crop
CSDN“太陽花的小綠豆”自己寫的transforms.py文件,但是沒有講怎么將coco數據集的target進行crop的代碼,這個作者的crop代碼都是crop的voc數據集的圖片和mask(現成的蒙版)。
嘗試仿照強師兄的crop,會出現loss is nan的報錯。可能是自己定義的crop函數沒有定義好,因為加了crop之后就會出現“loss is nan”的報錯。
實驗后發現:
image是Image.open讀取的,是PIL對象。
target是從coco數據格式的json文件“instances_train_2017.json”里讀出來的