Dynamic Graph Embedding

整理：AIGraph

內(nèi)容：7篇Dynamic Graph Embedding相關(guān)的內(nèi)容

簡介：本文匯總了7篇Dynamic Graph Embedding相關(guān)的內(nèi)容

1.Streaming Graph Neural Networks

• https://arxiv.org/pdf/1810.10627.pdf

• Yao Ma, Ziyi Guo, Zhaochun Ren, Eric Zhao, Jiliang Tang, Dawei Yin

現(xiàn)有大多數(shù)圖模型都是為靜態(tài)圖設(shè)計的，但是我們知道許多圖是動態(tài)變化的，比如說，社交網(wǎng)絡(luò)會隨著新用戶加入和新關(guān)系建立進行一定的演化和重構(gòu)。目前設(shè)計的模型不能很好地利用這些圖的動態(tài)特性。因此，有必要設(shè)計用于動態(tài)圖的專用圖神經(jīng)網(wǎng)絡(luò)。在本文中，作者提出了一種新的動態(tài)圖神經(jīng)網(wǎng)絡(luò)模型DGNN，提出的框架可以通過捕獲邊（交互作用）的順序信息，利用邊之間的時間間隔和信息傳播的連貫性來保持更新節(jié)點信息。

對于不同狀態(tài)的結(jié)點進行不同的更新方式

2.Dynnode2vec: Scalable Dynamic Network Embedding

• https://arxiv.org/abs/1812.02356

• Sedigheh Mahdavi, Shima Khoshraftar, Aijun An

現(xiàn)有的圖嵌入方法大多是針對靜態(tài)網(wǎng)絡(luò)設(shè)計的，不能捕獲大規(guī)模動態(tài)網(wǎng)絡(luò)中的演化模式。本文在已有的圖嵌入方法node2vec的基礎(chǔ)上，提出了一種動態(tài)嵌入方法dynnode2vec。Node2vec是一種基于隨機游走的靜態(tài)網(wǎng)絡(luò)嵌入方法。將靜態(tài)網(wǎng)絡(luò)嵌入到動態(tài)環(huán)境中有兩個關(guān)鍵問題：1）為每個時間步生成隨機游動是非常耗時的；2）在每個時間戳中嵌入向量空間是不同的。為了解決這些問題，dynnode2vec使用進化隨機游動，并使用先前的嵌入向量初始化當(dāng)前的圖嵌入。作者通過對幾個大型動態(tài)網(wǎng)絡(luò)數(shù)據(jù)集進行經(jīng)驗評估，展示了所提出的動態(tài)網(wǎng)絡(luò)嵌入效果。

3.Dynamic Network Embedding: An Extended Approach for Skip-gram based Network Embedding

• https://www.ijcai.org/proceedings/2018/0288.pdf

• Lun Du, Yun Wang, Guojie Song, Zhicong Lu, Junshan Wang

網(wǎng)絡(luò)嵌入作為一種學(xué)習(xí)頂點低維表示的方法，在許多應(yīng)用中都被證明是非常有用的。很多的圖模型都是基于Skip-gram算法的，但是這些方法主要集中在靜態(tài)網(wǎng)絡(luò)嵌入上，不能自然地推廣到動態(tài)環(huán)境中。本文提出了一個穩(wěn)定、高效的動態(tài)嵌入框架, 這是對基于skip-gram網(wǎng)絡(luò)嵌入方法的一個擴展，同時在理論上保證了基于skip-gram網(wǎng)絡(luò)嵌入方法目標(biāo)的最優(yōu)性。該模型可以推廣到學(xué)習(xí)新頂點表示。在三個實際網(wǎng)絡(luò)上的節(jié)點分類表明，該模型能夠有效地更新頂點表示，同時達到再訓(xùn)練的性能。

4.EvolveGCN: Evolving Graph Convolutional Networks for Dynamic Graphs

• https://arxiv.org/abs/1902.10191

• Aldo Pareja, Giacomo Domeniconi, Jie Chen, Tengfei Ma, Toyotaro Suzumura, Hiroki Kanezashi, Tim Kaler, Charles E. Leisersen, ArXiv.

現(xiàn)有的方法通常采用節(jié)點嵌入，并使用遞歸神經(jīng)網(wǎng)絡(luò)（廣義上說是RNN）來調(diào)節(jié)節(jié)點的嵌入并學(xué)習(xí)時間變化的動態(tài)特征。這些方法需要了解整個時間范圍內(nèi)的節(jié)點（包括訓(xùn)練和測試），并且不適用于頻繁更改節(jié)點集的情況。在某些極端情況下，不同時間步長的節(jié)點集可能會完全不同。為了解決這一挑戰(zhàn)，我們提出了EvolveGCN，它沿時間維度適應(yīng)圖卷積網(wǎng)絡(luò)（GCN）模型，而無需借助節(jié)點嵌入。所提出的方法通過使用RNN演化GCN參數(shù)來捕獲圖序列的動態(tài)性。考慮兩種架構(gòu)進行參數(shù)演化。我們評估提出的方法，包括鏈接預(yù)測，邊緣分類和節(jié)點分類等任務(wù)。實驗結(jié)果表明，與相關(guān)方法相比，EvolveGCN的性能通常更高。

思路清奇：學(xué)習(xí)演化的權(quán)重

5.Gated Residual Recurrent Graph Neural Networks for Traffic Prediction

• https://oar.a-star.edu.sg/jspui/bitstream/123456789/3020/1/AAAI-ChenC.4591.pdf#page8

• Cen Chen, Kenli Li, Sin G. Teo, Xiaofeng Zou, Kang Wang, Jie Wang, Zeng Zeng, AAAI 2019.

交通流預(yù)測對于交通管理和公共安全具有重要意義，同時也受到許多復(fù)雜因素的影響，如復(fù)雜路網(wǎng)的空間依賴性、時間動態(tài)等，因此具有很大的挑戰(zhàn)性。由于交通狀態(tài)的不確定性和復(fù)雜性，這些因素使得交通預(yù)測成為一項具有挑戰(zhàn)性的任務(wù)。在文獻中，許多研究工作將卷積神經(jīng)網(wǎng)絡(luò)（CNNs）與遞歸神經(jīng)網(wǎng)絡(luò)（RNNs）相結(jié)合應(yīng)用于交通預(yù)測問題，前者用于空間相關(guān)性，后者用于時間動力學(xué)。然而，這樣的組合不能捕捉到交通網(wǎng)絡(luò)的連通性和全局性。本文首先提出采用殘差遞歸圖神經(jīng)網(wǎng)絡(luò)（Res-RGNN）來聯(lián)合捕獲基于圖的空間依賴和時間動態(tài)。由于梯度消失，RNNs很難捕捉到周期性的時間相關(guān)性。因此，我們進一步提出了一種新的skip Res-RGNN的方案來利用周期時間依賴。在Res-RGNN和hop-Res-RGNN的基礎(chǔ)上，提出了一種新的端到端多Res-RGNNs流量預(yù)測框架MRes-RGNN。在兩個流量數(shù)據(jù)集上的實驗結(jié)果表明，所提出的MRes-RGNN方法明顯優(yōu)于現(xiàn)有的方法。

6.Structured Sequence Modeling with Graph Convolutional Recurrent Networks

• https://arxiv.org/abs/1612.07659

• Youngjoo Seo, Micha?l Defferrard, Pierre Vandergheynst, Xavier Bresson, ICONIP 2017.

本文介紹了圖卷積遞歸網(wǎng)絡(luò)（GCRN）一種能夠預(yù)測結(jié)構(gòu)化數(shù)據(jù)序列的深度學(xué)習(xí)模型。 準(zhǔn)確地說，GCRN是經(jīng)典遞歸神經(jīng)網(wǎng)絡(luò)（RNN）對由任意圖構(gòu)成的數(shù)據(jù)的概括。 這樣的結(jié)構(gòu)化序列可以表示視頻中的一系列幀，傳感器網(wǎng)絡(luò)上的時空測量值或詞匯表上的隨機游走，用于自然語言建模。 所提出的模型在圖上結(jié)合了卷積神經(jīng)網(wǎng)絡(luò)（CNN）來識別空間結(jié)構(gòu)，并在RNN中找到動態(tài)模式。 我們研究了GCRN的兩種可能的體系結(jié)構(gòu)，并將模型應(yīng)用于兩個實際問題：預(yù)測移動的MNIST數(shù)據(jù)，以及使用Penn Treebank數(shù)據(jù)集對自然語言進行建模。 實驗表明，同時利用圖形表示關(guān)于數(shù)據(jù)的空間和動態(tài)信息可以提高精度和學(xué)習(xí)速度。

7.Dynamic Network Embedding by Modeling Triadic Closure Process

• http://yangy.org/works/dynamictriad/dynamic_triad.pdf

• Lekui Zhou, Yang Yang, Xiang Ren, Fei Wu, Yueting Zhuang. AAAI 2018.

在本文中，作者提出了一種新的表示學(xué)習(xí)方法DynamicTriad，既可以保留給定網(wǎng)絡(luò)的結(jié)構(gòu)信息又可以保留其演化模式?？傮w思路是采用三元組的方式，也就是三個頂點構(gòu)成的數(shù)據(jù)結(jié)構(gòu)，這也是網(wǎng)絡(luò)的基本單位之一。具體地，作者對由三個相互連接的頂點組成的封閉三合會建模：如何從不相連的狀態(tài)到相連的狀態(tài)。這個三元組閉合的演化過程是網(wǎng)絡(luò)形成和演化的基本機制，因此能夠捕獲網(wǎng)絡(luò)動態(tài)的變化并學(xué)習(xí)不同時間步長的頂點的表示。該方法可以有效地應(yīng)用識別移動網(wǎng)絡(luò)中的電話欺詐行為，并預(yù)測用戶是否將在貸款網(wǎng)絡(luò)中償還其貸款等。

往期精彩回顧適合初學(xué)者入門人工智能的路線及資料下載機器學(xué)習(xí)在線手冊深度學(xué)習(xí)在線手冊AI基礎(chǔ)下載（pdf更新到25集）備注：加入本站微信群或者qq群，請回復(fù)“加群”獲取一折本站知識星球優(yōu)惠券，請回復(fù)“知識星球”喜歡文章，點個在看

總結(jié)

以上是生活随笔為你收集整理的图系列|7篇动态时空图网络学习必读的顶会论文的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。