文章目錄
- 前期學習內容
- 雙曲空間中的圖卷積神經網絡
前期學習內容
雙曲空間中的圖卷積神經網絡
250318:這個博客的產生原因是我去看了B站上的一個視頻,up說ppt上傳到github上了,但是我去找了一圈也沒有找到,然后想給他留言,但是他這個賬號被封禁了,所以我只好自己去截屏了,但是截屏完如果隨便一丟好像以后再也不會看了,所以放到這里 ,以后說不定還會看,而且還可以幫助同樣找不到ppt的人來看。
觀看視頻:https://www.bilibili.com/video/BV19k4y1g7ad/?spm_id_from=333.337.search-card.all.click&vd_source=b13d5f9ded41e81123814e3046e12695
論文題目:Hyperbolic Graph Convolutional Neural Networks
作者團隊:斯坦福大學
收錄情況:Conference NeurIPS 2019
250318:失真的意思就是,比如數據是樹形結果,那么在越遠離根節點的位置,相鄰兩點的距離看起來是很近的,但是他們實際上是比較遠的,比如下圖中的紅色線是看起來很近,但是黑色線是他們的實際距離,也就是說,原本是樹形結構的數據直接投影到歐氏空間中的話,原本很遠的結點會變的很近,即失真,所以一個好的嵌入算法應該在嵌入前和嵌入后是保距的。
250318:在投影的圓上,兩點的實際距離已經不是他們之間的直線距離了,可以看到會有一個弧度,可以理解為是被中心吸過去了。
250318:這里x和y是兩點相對于中心的距離,所以這個距離圓盤中心越遠,一小段線段表示的距離就越遠,即距離的增長速度不是線性的,而是隨著離中心的距離增加而加速增長。
250318:在歐幾里得空間中,距離的增加是均勻的,任何兩點之間的距離都可以通過普通的直線測量。然而,在雙曲空間中,離圓盤中心越遠,同樣長度的線段所代表的實際“距離”就會變得越來越大。
250318:紅筆那里的點,它的輻射范圍可以理解為那個紅色的圈,也就是說他會和那些相似的以及中心的節點可能產生關系。
250318:在做運算時,先用 log 轉到歐氏空間,計算完后再用 exp 轉到雙曲空間。
250318:CORA上不是SOTA的原因是雙曲指數 δ \delta δ 太大,也就是他不像樹形結構,不是很適用于雙曲空間。