
課程概要
本課程來自集智學園圖網絡論文解讀系列活動。
是對論文《Graph WaveNet for Deep Spatial-Temporal Graph Modeling》的解讀。
時空圖建模 (Spatial-temporal graph modeling)是分析系統中組成部分的空間維相關性和時間維趨勢的重要手段。已有算法大多基于已知的固定的圖結構信息來獲取空間相關性,而鄰接矩陣所包含的連接關系并不能反應真實的節點間交互。此外,現有基于 RNN 和 CNN 的時域建模方式不能真正的捕捉其中所存在的長程相關。本文提出了一個新的圖神經網絡模型 Graph WaveNet 用于時空圖建模。其中包括兩個組件,一個是自適應依賴矩陣(adaptive dependency matrix),通過節點嵌入進行訓練,用來精確建模節點的空間相關性。另一個是堆疊的 1D 帶孔卷積(stacked dilated 1D convolution),增加了模型在時域的感受野的大小。通過兩個交通流預測數據集的測試,Graph WaveNet 均能達到 state-of-the-art 的效果。課程資料論文題目:Graph WaveNet for Deep Spatial-Temporal Graph Modeling論文地址:https://arxiv.org/abs/1906.00121
?課程講師
王碩
王碩:2014年,畢業于東北大學模式識別與智能系統專業,2016年加入彩云天氣,負責霧霾預報算法及系統。論文原文摘要
Spatial-temporal graph modeling is an important task to analyze the spatial relations and temporal trends of components in a system. Existing approaches mostly capture the spatial dependency on a fixed graph structure, assuming that the underlying relation between entities is pre-determined. However, the explicit graph structure (relation) does not necessarily reflect the true dependency and genuine relation may be missing due to the incomplete connections in the data. Furthermore, existing methods are ineffective to capture the temporal trends as the RNNs or CNNs employed in these methods cannot capture long-range temporal sequences. To overcome these limitations, we propose in this paper a novel graph neural network architecture, Graph WaveNet, for spatial-temporal graph modeling. By developing a novel adaptive dependency matrix and learn it through node embedding, our model can precisely capture the hidden spatial dependency in the data. With a stacked dilated 1D convolution component whose receptive field grows exponentially as the number of layers increases, Graph WaveNet is able to handle very long sequences. These two components are integrated seamlessly in a unified framework and the whole framework is learned in an end-to-end manner. Experimental results on two public traffic network datasets, METR-LA and PEMS-BAY, demonstrate the superior performance of our algorithm.
課程大綱
- 介紹了論文的基礎信息和論文背景
- 介紹了本篇論文解決的科學問題——時空序列預測
- 分模塊介紹了Graph WaveNet算法框架,同時說明每個模塊相關的以往研究
- 介紹了對比模型,以及實驗結果
- 展開相關的討論,探討文章算法的局限性
- 展示相關資源列表
錄播學習
學習地址:
https://campus.swarma.org/play/coursedetail?id=11091
推薦學習
集智圖網絡線上讀書會公開招募
圖神經網絡是深度學習領域的前沿熱點議題,尤其是圖網絡(GraphNetworks)提出以來,深度學習有了實現因果推理的潛力。為了持續追蹤相關領域的前沿進展,集智俱樂部聯合北師大系統科學學院張江課題組,組織了以圖網絡為主題的線上讀書會,研討最新論文,孕育研究思路。每一期線上讀書會由一位成員主講,形式為論文分享,時間為每周一21:00-21:40。加入讀書會群需報名審核,原則上參與者應有能力獨立完成一次線上分享。如果你也正在從事圖網絡與深度學習方面的研究工作或技術實踐,或者對該領域有強烈的學習意愿,歡迎填寫報名表,申請加入“集智圖網絡論文分享小組”!報名請掃下方小程序碼,填寫報名表。填表之后會有入群方式。《產學結合:自然語言處理及其應用》課程報名
課程中,講解了自然語言處理的最新學術理論并聯合學術界和工業界,追蹤最新進展與落地實踐。課程由李嫣然、尹相志、小米科技相關技術負責人崔建偉和魏晨、彩云科技NLP算法工程師侯月源,合力打造了 12 節課程,涉及語言模型、機器翻譯、情感分析、文本理解、知識圖譜、文本生成六大主題。報名方式
點擊立即報名https://campus.swarma.org/play/coursedetail?id=11076
集智學園公眾號:swarmAI集智學園QQ群:426390994集智學園官網:campus.swarma.org商務合作&投稿轉載|swarma@swarma.org
