圖神經網絡 day2 圖的分類

圖神經網絡基礎算法

  • 1 GCN
  • 2 GraphSAGE
    • 2.1 采樣:采樣固定長度的鄰居
    • 2.2 聚合
    • 2.3 GraphSAGE_minibatch
    • 2.4 GraphSAGE_embedding
  • 3 GAT
  • 4. 圖網絡的分類
    • 4.1 遞歸圖神經網絡 RGNN
    • 4.2 圖卷積神經網絡GCN
    • 4.3 圖注意力網絡 GAT
    • 4.4 圖自動編碼 GAE
    • 4.5 圖時空網絡 GSTN
    • 4.6 圖生成網絡 GGN
    • 4.7 圖強化學些 GRL
    • 4.8 圖對抗方法GAM
    • 4.9 更通用的框架
      • 4.9.1 消息傳遞網絡 MPNN
      • 4.9.2 非局部神經網絡 NLNN
      • 4.9.3 圖神經網絡 GN
        • MPNN應用于GN
        • NLNN應用于GN
    • 4.10 其他圖
        • 1. 異構圖
        • 2. 二部圖
        • 3. 多維圖
        • 4. 符號圖
        • 5. 超圖
        • 6. 動態圖

1 GCN

公式:

image-20230731152025610

image-20230731154432175

image-20230731154641628

節點的特征從C維(X1)——》F維(Z1),并 進行softmax操作,得到每一個節點對應的label(Y1)

2 GraphSAGE

image-20230731164704170

image-20230815093721585

實例:

  1. 聚合周圍鄰居信息(領域特征),下圖是求平均值
  2. 把鄰居信息拼接到一起,再經過一個可學習的w參數

image-20230815093816863

2.1 采樣:采樣固定長度的鄰居

image-20230815094233042

節點4是單向的,所以不考慮

image-20230815094435073

2.2 聚合

要滿足以下性質:

  1. 聚合函數是對稱的
  2. 聚合函數的輸入和順序是不變的

image-20230815094642143

2.3 GraphSAGE_minibatch

Minbatch : GraphSAGE采用聚合鄰居,和GCN使用全圖方式,變成采樣。這樣在minbatch下,可以不使用全圖信息,這使得在大規模圖上訓練變得可行。把大圖轉換成小圖

image-20230815095311066

例子

image-20230815095447037

image-20230815095835128

2.4 GraphSAGE_embedding

image-20230815100141336

作者提出的假設:如果這兩個節點很近,那么他們的表征應該是相似的,反之,則他們的表征會有所不同

3 GAT

image-20230815140838605

求得節點i和周圍節點的attention系數,再通過系數與鄰居節點加權求和,那么就求得了該節點聚合周圍節點后的特征。

image-20230815141100183

多頭注意力機制

image-20230815141418872

三個節點表示了三類特征

image-20230815141634715

4. 圖網絡的分類

image-20230815142038642

image-20230815142124149

image-20230815142218084

4.1 遞歸圖神經網絡 RGNN

image-20230815170529400

遞歸和卷積都是學習特征,很明顯,卷積圖神經網絡的卷積層參數可以是不一致的的

4.2 圖卷積神經網絡GCN

image-20230815170644973

得到節點有序序列

4.3 圖注意力網絡 GAT

4.4 圖自動編碼 GAE

GAE:encoder用GCN替換,得出的特征矩陣Z,decoder替換成Z的轉置,通過轉置生成的圖與原圖比較得出最小化結構性誤差,通過最小損失函數可以得出GCN的參數

image-20230815171957587

VAE課程,李宏毅老師課程∶
https://www.bilibili.com/video/BV1tZ4y1L7gu?from=search&seid=15594710630639930905

4.5 圖時空網絡 GSTN

同時考慮圖的空間性和時間維度·比如在交通鄰域中﹐速度傳感器會隨時間變化的時間維度﹐不同的傳感器之間也會形成連接的空間維度的邊。
當前的許多方法都應用GCN來捕獲圖的依賴性,使用一些RNN或CNN對時間依賴性建模。

4.6 圖生成網絡 GGN

通過RNN或者GAN的方式生成網絡。圖生成網絡的
一個有前途的應用領域是化合物合成。在化學圖中﹐原子被視為節點﹐化學鍵被視為邊·任務是發現具有某些化學和物理性質的新的可合成分子。

4.7 圖強化學些 GRL

通過RNN或者GAN的方式生成網絡。圖生成網絡的
一個有前途的應用領域是化合物合成。在化學圖中﹐原子被視為節點﹐化學鍵被視為邊·任務是發現具有某些化學和物理性質的新的可合成分子。

4.8 圖對抗方法GAM

GAN的思想﹐生成器生成樣本﹐分類器去判別樣本。

4.9 更通用的框架

  1. MPNN∶圖神經網絡和圖卷積/ Message Passing Neural Networks
  2. NLNN︰統一Attention/ Non-local Neural Networks
  3. GN︰統一以上/ Graph Networks

image-20230815172729741

image-20230815172736534

4.9.1 消息傳遞網絡 MPNN

image-20230815172851410

Mt:聚合周圍鄰居信息

Ut:更新節點在下一層的特征表示

前面這兩部分就跟GraphSAGE相似;最后,組合在一起就成了圖的表示y hat。

4.9.2 非局部神經網絡 NLNN

image-20230815173337490

f()求的就是節點i和相鄰節點的attention系數,再求g()得出的該節點的特征,再歸一化就是下一層的特征表示yi‘。

4.9.3 圖神經網絡 GN

image-20230815173741029

一個GN塊包含三個更新函數函數φ和三個聚合函數ρ,各符號意義如下圖所示:

image-20230815173909499

一個例子:Vsk:sender node;Vrk:receiver node;

image-20230815174209304

計算流程如下:

image-20230815174139184

整個算法的流程:

image-20230815174727391

MPNN應用于GN

image-20230815175350153

NLNN應用于GN

image-20230815175511573

4.10 其他圖

image-20230815175928347

1. 異構圖

不同節點構成的圖

image-20230815180118699

2. 二部圖

將圖中節點分為兩部分,每一邊不跟自己相連

image-20230815180156598

3. 多維圖

多種關系所組成的圖

image-20230815180243234

4. 符號圖

圖之間的連接有正反符號

image-20230815180318206

5. 超圖

一條邊包含兩個以上的節點。每個邊所包含的頂點個數都是相同且為k個的,就可以被稱為k階超圖,常見的圖就是2階超圖。

image-20230815180426199

6. 動態圖

image-20230815180457324

上面提到的圖是靜態的,觀察時節點之間的連接是固定的。但是,在許多實際應用中,隨著新節點被添加到圖中,圖在不斷發展,并且新邊也在不斷出現。例如,在諸如Facebook的在線社交網絡中,用戶可以不斷與他人建立友誼,新用戶也可以隨時加入Facebook。這些類型的演化圖可以表示為動態圖,其中每個節點或邊都與時間戳關聯。

本文來自互聯網用戶投稿,該文觀點僅代表作者本人,不代表本站立場。本站僅提供信息存儲空間服務,不擁有所有權,不承擔相關法律責任。
如若轉載,請注明出處:http://www.pswp.cn/news/43686.shtml
繁體地址,請注明出處:http://hk.pswp.cn/news/43686.shtml
英文地址,請注明出處:http://en.pswp.cn/news/43686.shtml

如若內容造成侵權/違法違規/事實不符,請聯系多彩編程網進行投訴反饋email:809451989@qq.com,一經查實,立即刪除!

相關文章

typeScript 接口和類

工具: PlayGround 接口 接口用來定義對象的結構和類型,描述對象應該具有哪些屬性和方法。 它僅用于聲明,而不是實現; 這對于編寫可重用的代碼非常有用。它可用于: 關鍵字是interface, 注意:它…

OSPF在廣播類型的網絡拓撲中DR和BDR的選舉

指定路由器(DR): 一個網段上的其他路由器都和指定路由器(DR)構成鄰接關系,而不是它們互相之間構成鄰接關系。 備份指定路由器(BDR): 當DR出現問題,由BDR接…

redis事務對比Lua腳本區別是什么

redis官方對于lua腳本的解釋:Redis使用同一個Lua解釋器來執行所有命令,同時,Redis保證以一種原子性的方式來執行腳本:當lua腳本在執行的時候,不會有其他腳本和命令同時執行,這種語義類似于 MULTI/EXEC。從別…

中間件: Kafka安裝部署

單機部署 下載二進制包 cd /opt/soft/archive wget http://archive.apache.org/dist/kafka/3.2.0/kafka_2.12-3.2.0.tgz tar -zxf kafka_2.12-3.2.0.tgz -C ../ cd ../kafka_2.12-3.2.0修改配置 vim config/server.propertiesadvertised.listenersPLAINTEXT://39.105.11.50:…

C++系列-函數重載

C系列-函數重載 函數重載函數重載的條件函數重載注意事項引用作為重載函數重載遇到默認參數 函數重載 函數名可以相同, 提高復用性 函數重載的條件 同一個作用域下函數名相同函數參數不同 – 參數個數不同 – 參數順序不同 – 參數類型不同不可以使用返回值作為重…

UI和API自動化測試的失敗原因

一、UI自動化失敗原因: 界面發生了變化,但是腳本沒有更新腳本中的等待時間太短了,導致元素還沒出來就被判定為失敗了網絡因素,網絡如果太慢的話,界面元素的顯示就會滯后執行的時候突然彈出一個窗口影響了元素的定位Ag…

Python web實戰之Django 的跨站點請求偽造(CSRF)保護詳解

關鍵詞:Python、Web、Django、跨站請求偽造、CSRF 大家好,今天我將分享web關于安全的話題:Django 的跨站點請求偽造(CSRF)保護,介紹 CSRF 的概念、原理和保護方法. 1. CSRF 是什么? CSRF&#…

微服務與Nacos概述-6

RBAC 模型 RBAC 基于角色的訪問控制是實施面向企業安全策略的一種有效的訪問控制方式。 基本思想是,對系統操作的各種權限不是直接授予具體的用戶,而是在用戶集合與權限集合之間建立一個角色集合。每一種角色對應一組相應的權限。一旦用戶被分配了適當…

【MySQL】MySQL基礎知識詳解(一)

MySQL select列的別名去除重復行空值參與運算著重號查詢常數顯示表結構過濾數據 排序使用 ORDER BY 對查詢到的數據進行排序操作。使用列的別名,進行排序二級排序 分頁LIMIT 分頁顯示公式:(當前頁數減一)*每頁條數,每頁…

【AIGC】 快速體驗Stable Diffusion

快速體驗Stable Diffusion 引言一、安裝二、簡單使用2.1 一句話文生圖2.2 詳細文生圖 三、進階使用 引言 stable Diffusion是一款高性能的AI繪畫生成工具,相比之前的AI繪畫工具,它生成的圖像質量更高、運行速度更快,是AI圖像生成領域的里程碑…

【100天精通python】Day41:python網絡爬蟲開發_爬蟲基礎入門

目錄 專欄導讀 1網絡爬蟲概述 1.1 工作原理 1.2 應用場景 1.3 爬蟲策略 1.4 爬蟲的挑戰 2 網絡爬蟲開發 2.1 通用的網絡爬蟲基本流程 2.2 網絡爬蟲的常用技術 2.3 網絡爬蟲常用的第三方庫 3 簡單爬蟲示例 專欄導讀 專欄訂閱地址:https://blog.csdn.net/…

【玩轉Linux操作】crond的基本操作

🎊專欄【玩轉Linux操作】 🍔喜歡的詩句:更喜岷山千里雪 三軍過后盡開顏。 🎆音樂分享【Counting Stars 】 歡迎并且感謝大家指出小吉的問題🥰 文章目錄 🍔概述🍔命令?常用選項 🍔練…

軟件-常用軟件系統架構

目錄 1.客戶端-服務器架構 2.分布式架構 3.微服務架構 4.事件驅動架構 5.單體架構 6.混合架構 當我們談論系統架構時,可以將其比喻為一座房子的設計和結構,想象一下你計劃建造一座豪華別墅,你需要考慮各種因素:如房子的大小…

linux下常見編譯問題

linux下常見編譯問題 linux-cmake靜態編譯查看系統支持的的libc版本查看程序需要的動態鏈接庫查看程序需要的libc版本freebsd下 linux-cmake靜態編譯 CMakeLists.txt 添加 set(CMAKE_EXE_LINKER_FLAGS "-static")ELF 64-bit LSB executable, AMD x86-64, version 1…

【微服務】一文了解 Nacos

一文了解 Nacos Nacos 在阿里巴巴起源于 2008 2008 2008 年五彩石項目(完成微服務拆分和業務中臺建設),成長于十年雙十一的洪峰考驗,沉淀了簡單易用、穩定可靠、性能卓越的核心競爭力。 隨著云計算興起, 2018 2018 20…

編程練習(3)

一.選擇題 第一題: 函數傳參的兩個變量都是傳的地址,而數組名c本身就是地址,int型變量b需要使用&符號,因此答案為A 第二題: 本題考察const修飾指針變量,答案為A,B,C,D 第三題: 注意int 型變…

13---內嵌HTML和React

雖然Markdown本身不支持內嵌HTML和React&#xff0c;但可以在Markdown文檔中直接插入HTML代碼和React組件。 一、在markdown中內嵌HTML 在Markdown中&#xff0c;你可以使用HTML標簽來實現更復雜的樣式和布局。例如&#xff0c;你可以使用<div>標簽來創建一個容器&#…

算法與數據結構(五)--樹與二叉查找樹

符號表的增刪查操作&#xff0c;隨著元素個數N的增多&#xff0c;其耗時也是線性增多的&#xff0c;時間復雜度都是O(n)&#xff0c;為了提高運算效率&#xff0c;我們學習樹這種數據結構。 目錄 一.樹的基本定義 二.樹的相關術語 三.二叉樹的基本定義 四.二叉樹的鏈表實現…

leetcode 279. 完全平方數

2023.8.18 與零錢兌換相似&#xff0c;本題屬于完全背包問題&#xff1a;完全平方數為物品&#xff0c;整數n為背包。 直接上代碼&#xff1a; class Solution { public:int numSquares(int n) {vector<int> dp(n1 , INT_MAX);dp[0] 0;for(int i1; i*i<n; i){for(in…

時序預測 | MATLAB實現WOA-CNN-BiGRU鯨魚算法優化卷積雙向門控循環單元時間序列預測

時序預測 | MATLAB實現WOA-CNN-BiGRU鯨魚算法優化卷積雙向門控循環單元時間序列預測 目錄 時序預測 | MATLAB實現WOA-CNN-BiGRU鯨魚算法優化卷積雙向門控循環單元時間序列預測預測效果基本介紹模型描述程序設計參考資料 預測效果 基本介紹 時序預測 | MATLAB實現WOA-CNN-BiGRU鯨…