目錄
- Unsupervised Deep Embedding for Clustering Analysis (DEC 2016）
- Attributed Graph Clustering: A Deep Attentional Embedding Approach （DAEGC 2019）
- Structural Deep Clustering Network (SDCN 2020)
- Contrastive Multi-View Representation Learning on Graphs (MVGRL 2020)
- CommDGI: Community detection oriented deep graph infomax (CommDGI 2020))
- Adaptive Graph Encoder for Attributed Graph Embedding (AGE* 2020)
- Graph Contrastive Learning with Adaptive Augmentation (GCA 2021)
- Multi-view Contrastive Graph Clustering (MCGC 2021)
- Deep Fusion Clustering Network (DFCN 2021)
- Graph Debiased Contrastive Learning with Joint Representation Clustering (GDCL 2021)
- SAIL: Self-Augmented Graph Contrastive Learning (SAIL 2022)
- Augmentation-Free Self-Supervised Learning on Graphs (AFGRL 2022)
- Deep Graph Clustering via Dual Correlation Reduction (DCRN 2022)
- Attributed Graph Clustering with Dual Redundancy Reduction (AGC-DRR 2022)
- Self-consistent Contrastive Attributed Graph Clustering with Pseudo-label Prompt (SCAGC 2022)
- Scalable Self-Supervised Graph Clustering(S3GC 2022 )
- NCAGC: A Neighborhood Contrast Framework for Attributed Graph Clustering (NCAGC 2022)
- Cluster-guided Contrastive Graph Clustering Network (CCGC 2023)
- Hard Sample Aware Network for Contrastive Deep Graph Clustering (HSAN 2023)
- Simple Contrastive Graph Clustering (SCGC 2023)
- Dink-Net: Neural Clustering on Large Graphs (Dink-Net 2023)
- Attribute Graph Clustering via Learnable Augmentation (AGCLA 2023)
- CONVERT: Contrastive Graph Clustering with Reliable Augmentation (CONVERT 2023)
- Self-Contrastive Graph Diffusion Network (SCGDN 2023)
- Dual Contrastive Learning Network for Graph Clustering(MVGRL上改進DCLN 2023 )
- A Contrastive Variational Graph Auto-Encoder for Node Clustering (CVGAE 2023)
- Multi-level Graph Contrastive Prototypical Clustering (MLG-CPC 2023)
- Deep Contrastive Graph Learning with Clustering-Oriented Guidance (2024)
- Reliable Node Similarity Matrix Guided Contrastive Graph Clustering (2024)
- Deep Masked Graph Node Clustering (2024)
- Unsupervised node clustering via contrastive hard sampling (2024)
- GLAC-GCN: Global and Local Topology-Aware Contrastive Graph Clustering Network (2024)
- Revisiting Modularity Maximization for Graph Clustering: A Contrastive Learning Perspective (2024)
- Structure-enhanced Contrastive Learning for Graph Clustering (2024)
- Every Node is Different: Dynamically Fusing Self-Supervised Tasks for Attributed Graph Clustering (2024)
- ———————————————圖重構———————————————
- AE, VAE,GAE,VGAE
- Rethinking Graph Auto-Encoder Models for Attributed Graph Clustering (R-GAE 2022)
- Redundancy-Free Self-Supervised Relational Learning for Graph Clustering（R2FGC 2023）
- Synergistic Deep Graph Clustering Network（Sync 2024）
- ———————————————others論文———————————————
- Contrastive-Clustering （2021）
- Select The Best: Enhancing Graph Representation with Adaptive Negative Sample Selection (2024)×強化學習
- Graph-Mamba: Towards Long-Range Graph Sequence Modeling with Selective State Spaces (2024)
- Provable Training for Graph Contrastive Learning (2023)
- ——————————————圖對比學習論文—————————————
- Graph Contrastive Coding for Graph Neural Network Pre-Training (GCC 2020)
- Deep Graph Contrastive Representation Learning (GRACE 2020)
- Contrastive Multi-View Representation Learning on Graphs(MVGRL 2020)
- Graph Contrastive Learning with Augmentations(2020)
- GraphCL: Contrastive Self-Supervised Learning of Graph Representations (2021)
- Bootstrapped Graph Latents (BGRL 2021)
- Graph Contrastive Learning with Adaptive Augmentation (2021)
- SimGRACE: A Simple Framework for Graph Contrastive Learning without Data Augmentation (2022)
- Neighbor Contrastive Learning on Learnable Graph Augmentation (2023)
- Self-Supervised Graph Representation Learning via Multi-Modal Contrast(SUGRL 2023 )
- ——————————————筆記——————————————
- *創新點
- 對比學習
- 模塊度損失
- 正則化項
大多數論文可在 Awesome Graph Clustering下載
Unsupervised Deep Embedding for Clustering Analysis (DEC 2016）
- 使用重構損失進行預訓練自編碼器
- 網絡使用簇分配硬化損失進行微調
- 使用軟分配輸出聚類結果
- 使用KL散度損失優化聚類 端到端優化
Attributed Graph Clustering: A Deep Attentional Embedding Approach （DAEGC 2019）
創新點：
- 我們開發了第一個基于圖形注意力的自動編碼器，為了有效地整合深度潛在表征學習的結構和內容信息。
- 我們提出了一種新的目標導向的分布式圖聚類框架。該框架聯合優化了嵌入學習和圖聚類，使兩個組件互惠互利。
Structural Deep Clustering Network (SDCN 2020)
- 結合GCN與自編碼器??：利用自編碼器捕捉節點屬性特征，GCN捕獲圖結構信息，通過傳遞操作符將兩者動態融合。
- 雙重自監督機制??：通過聚類損失（KL散度）同時優化自編碼器和GCN模塊，確保兩種信息源的一致性。
Contrastive Multi-View Representation Learning on Graphs (MVGRL 2020)
- 提出：與視覺表示學習不同，將視圖數量增加到兩個以上時并不能提高性能。
- 對鄰接矩陣擴散生成擴散矩陣的視圖
- 對兩個嵌入進行GNN編碼，MLP投影得到節點表示
- 對兩個嵌入進行池化和MLP處理，得到圖表示（對整個圖的一個特征描述向量）
創新點：
CommDGI: Community detection oriented deep graph infomax (CommDGI 2020))
- Loss = 節點級對比損失 + 社區級簇中心損失 + 圖級模塊化損失
創新點：
Adaptive Graph Encoder for Attributed Graph Embedding (AGE* 2020)
現有的基于GCN的方法存在三個缺陷，其中圖卷積濾波器和權重矩陣的糾纏()會損害性能和魯棒性
- 精心設計的拉普拉斯平滑濾波器,過濾低頻噪聲(將濾波器H=I-kL中的k作為超參數，具體看AGE講解)
- 自適應編碼器,根據相似度矩陣選擇可信賴的正負訓練樣本(動態閾值)
- Loss = 對比損失
創新點：
Graph Contrastive Learning with Adaptive Augmentation (GCA 2021)
- 數據增強方案：邊丟棄(重要的邊丟棄概率小，不重要的邊丟棄概率大)；特征掩碼（保留重要節點的高頻特征）。根據圖的結構或節點重要性，自適應選擇增強方式和強度，避免過度破壞語義信息。
節點的重要性是根據節點中心性（node centrality 是度量節點影響力廣泛使用的度量），邊的重要性則是根據節點對重要性- 對比學習：將相同、不同視圖的不同節點都視為負樣本對。
Multi-view Contrastive Graph Clustering (MCGC 2021)
- 每個節點及其 k個近鄰(KNN)視為正樣本對，使用InfoNce損失
- 重構視圖損失
- 對比損失，樣本集為特征
Deep Fusion Clustering Network (DFCN 2021)
Graph Debiased Contrastive Learning with Joint Representation Clustering (GDCL 2021)
- 圖對比學習，先隨機選擇負樣本
- KL散度損失
- 生成偽標簽，從與正樣本不同的簇中選擇負樣本，去偏假負樣本
SAIL: Self-Augmented Graph Contrastive Learning (SAIL 2022)
- 知識蒸餾(將教師模型遷移到學生模型)
- 創建模型即為教師模型，注入噪聲后降為學生模型，用Ht（教師模型的輸出）監督學生模型
- Loss = 蒸餾損失（教師學生模型輸出差異）+ 正則化項（）
Augmentation-Free Self-Supervised Learning on Graphs (AFGRL 2022)
- 和GALC數據融合部分一樣，全局+局部融合（KNN+A+K-means）
- 無數據增強
- 借鑒BGRL，無負樣本
這里的q表示預測網絡…
Deep Graph Clustering via Dual Correlation Reduction (DCRN 2022)
創新點：
- 我們提出了一種基于孿生網絡的算法，以解決深度圖聚類領域中表征坍塌的問題。
- 提出了一種雙相關度降低策略（特征級和聚類級），以提高樣本表示的判別能力。
強制跨視圖樣本級相相似矩陣和跨視圖特征級相似矩陣分別近似兩個單位矩陣- 在六個基準數據集上的廣泛實驗結果表明，所提出的方法優于現有方法。
Loss = Ln(節點級嵌入)+ Lf (聚類級嵌入)+ Lr(JS散度：為了緩解由GCN中的過度平滑引起的表征坍塌問題，我們引入傳播正則化項)
MLP處理：
圖擴散生成新的鄰接矩陣
Attributed Graph Clustering with Dual Redundancy Reduction (AGC-DRR 2022)
- AGC-DRR 是首個采用對抗學習機制自適應學習鄰接矩陣的屬性圖聚類算法
- 我們提出了一種雙冗余減少策略，旨在降低輸入空間和潛在特征空間中的信息冗余，從而提升聚類性能。
- 無需預訓練
Self-consistent Contrastive Attributed Graph Clustering with Pseudo-label Prompt (SCAGC 2022)
- 是首個無需后處理的對比屬性圖聚類模型
- 通過利用聚類標簽，我們提出了一種新的自監督CL損失函數
數據增強生成兩個視圖，經過GNN編碼后再經過MLP全連接層，一個視圖經過MLP生成N*K矩陣得到偽標簽（簇對比），另一個視圖通過偽標簽對比學習（節點對比）。
Scalable Self-Supervised Graph Clustering(S3GC 2022 )
- 可擴展到超大規模數據集
- 隨機游走采樣，生成與給定節點相似的點
- 隨機行走生成的節點被認為是正樣本，而其余樣本被認為是負樣本
NCAGC: A Neighborhood Contrast Framework for Attributed Graph Clustering (NCAGC 2022)
- 雙對比學習（節點對比+自表達對比）
- 領域對比模塊：與其他對比學習方法不同，NCAGC在原始視圖中選擇正/負對，而不進行數據增強。
鄰域對比模塊利用對比學習方法通過最大化前K個最近鄰節點的相似性（即正對）和最小化其他節點的相似性（即負對）來提高提取的節點表示的質量。- 自表達矩陣
對比性自表達模塊被用來通過對比自表達層重構前后的節點表示來幫助學習更具辨別力的自表達系數矩陣。
Cluster-guided Contrastive Graph Clustering Network (CCGC 2023)
- 多層拉普拉斯過濾特征，使用MLP作為編碼器
- 偽標簽生成高置信度樣本，將不同聚類中心作為負樣本。
創新點：
- 我們提出了一種基于聚類的對比深度圖聚類方法CCGC網絡提高質量通過挖掘高置信度聚類信息改善正負樣本的質量。
- 不使用精心設計的復雜圖形數據增強，我們通過設計非共享參數編碼器，從而避免-不恰當的圖形數據引起的語義漂移。
- 六個基準數據集的廣泛實驗結果證明優越性。
具體做法是將負樣本對的相似度矩陣（通過內積得到）與零矩陣進行比較MSE損失
將正樣本對的相似度矩陣的每行之和與1進行比較:（2 - 2 * cosine_similarity）
)
