一、Smooth L1 Loss
??? 1.公式:
??? ?
??? 2.原因:
??? L1損失使權值稀疏但是導數不連續,L2損失導數連續可以防止過擬合但對噪聲不夠魯棒,分段結合兩者優勢。
二、Focal Loss
?? 1.公式:
???
?? 2.作用:
????????? 使得正負樣本平衡的同時,難分和易分樣本的比重不同,更易分。?
三、交叉熵損失
?????1.公式:
?????
???? 2.平衡交叉熵損失
????????
四、Dice Loss
?????1.公式:(類似于交并比)
???? ?
五、平方損失
?? 1.適用
??? 用于線性回歸中。
六、hinge損失(鉸鏈損失)
??? 1.公式:
????
???? 2.適用:
???? 主要用于SVM中。SVM損失是hinge損失和L2正則損失的和。
七、指數損失
? 1.適用
?? 用于adaboost中。
八、0/1損失
對應方法:
?
?? 1.Faster RCNN:cls+loc=交叉熵損失+smooth L1損失
?? 2.YOLO:平方損失
?? 3.SSD:cls+loc=交叉熵損失+smooth L1損失
?? 4.EAST:cls+角度+loc=平衡交叉熵損失+cos損失+log交并比損失
分類:
?? 交叉熵損失、focal loss、指數損失、hinge損失
回歸:
?? 平方損失、smooth L1損失、交并比損失、Dice 損失
?
???
?