SimSiam(Simple Siamese)是一種自監督對比學習方法,由Facebook AI Research于2021年提出。SimSiam的設計旨在避免負樣本對,并且不使用動量編碼器,進一步簡化了對比學習的實現過程。
SimSiam的基本概念
-
自監督學習:
自監督學習方法通過從數據本身獲取監督信號進行學習,不需要人工標注。SimSiam是一種自監督對比學習方法。 -
網絡結構:
SimSiam使用一個簡單的Siamese網絡結構,包含兩個相同的編碼器,編碼器輸出通過投影頭映射到低維空間,然后通過預測頭生成預測向量。 -
不需要動量編碼器和負樣本:
SimSiam去除了對比學習中的動量編碼器和負樣本對,僅使用正樣本對進行訓練。
SimSiam的工作原理
-
數據增強:
輸入圖像通過兩種不同的數據增強(例如裁剪、顏色抖動等)生成兩個不同的視圖: ( x 1 x_1