? ? ? ? ? ? ? ?

由于深度學習在可推理和可解釋性方面的局限性，結合圖計算與深度學習的圖神經網絡 ( GNN ) 成為近期學術界和工業界研究的熱點新方向之一，并在社交網絡、推薦系統等領域得到了廣泛的應用。

本次技術沙龍，由北京郵電大學 GAMMA Lab 博士生紀厚業出品，邀請來自澳洲國立大學、蒙特利爾大學、UIUC、中科院自動化所等國內外知名高校的5位嘉賓，與大家分享交流，一起探討GNN在學術界的最新研究進展。

沙龍名稱：圖神經網絡(GNN)最新研究進展

活動主辦：美團、圖與推薦、DataFunTalk

直播時間：2021年2月27日(本周六)，09:30-12:00

直播地點：DataFunTalk直播間

01

分享日程

02

詳細介紹

出品人：

紀厚業

北京郵電大學 GAMMA Lab | 博士生

阿里 / 微信 Research Intern，在 AAAI / WWW / EMNLP 等頂會上發表多篇論文，引用290+， 擔任 AAAI / WSDM / ACL / Access 等會議期刊審稿人。

分享嘉賓：

01

祝浩

澳洲國立大學 | 博士生

前京東金融技術專家，主要從事反欺詐反面的工作?，F在在澳洲國立大學攻讀博士。對AI有廣泛的興趣，發表十余篇論文于ICLR, IJCAI, ACMMM, ICDE, NAACL, ACCV, ICASSP等會議。

分享主題：一種簡單的譜圖卷積

議題介紹：本演講主要介紹我們在 ICLR2021 上被收錄的工作。圖卷積網絡 ( Graph Convolutional Networks，GCNs ) 已經引起了人們的極大關注，并成為學習圖表示的主要方法。當模型的深度增加時，大多數GCNs都會遭受性能損失。與CNN類似，如果沒有特別設計的架構，網絡的性能會隨著深度的增加而迅速下降。一些研究者認為，所需的鄰域大小和神經網絡深度是圖表示的兩個完全正交的方面。因此，一些方法在使用淺層神經網絡的同時，通過聚合節點的k-跳鄰域來擴展鄰域。然而，這些方法仍然會遇到過平滑、計算和存儲成本高的問題。在論文中，我們使用一個改進的馬爾科夫擴散核來推導出一種名為簡單譜圖卷積 ( S2GC ) 的GCN變體。我們的頻譜分析表明，我們在S2GC中使用的簡單頻譜圖卷積是一種低通和高通濾波器的權衡，它可以捕獲每個節點的全局和局部上下文。我們提供了兩個理論主張，證明與競爭對手相比，我們可以在一個越來越大的鄰域序列上進行聚合，同時限制嚴重的過平滑。

聽眾收益：了解關于簡化譜卷積的相關工作，因為這一類卷積方式在實際使用過程中 ( 也就是homophily比較高的圖 ) 具有很多不錯的性質。比如算的快，穩定，性能優異等。

新技術/實用技術點：Graph Neural Networks圖卷積網絡

02

王蘇羽晨

蒙特利爾大學 | 博士生

北京航空航天大學高等理工學院計算機科學學士，目前在蒙特利爾大學/MILA研究所攻讀計算機科學博士學位，主要研究方向為自然語言處理。曾在騰訊天衍實驗室作為研究實習生進行NLP相關研究。

分享主題：充分利用層級結構的分類樹擴展算法

議題介紹：分類樹作為一種描述上下位詞關系的層級狀知識圖譜在包括電子商務、數據庫索引等應用領域有廣泛應用。本次報告將介紹我們在WWW2021關于分類樹擴展算法的新工作，該算法相比已有算法能更加充分地利用分類樹的層級特征，且對概念的理解具有更好的實時性和準確性，大幅提升了將新概念添加至分類樹適當位置的準確性。

聽眾收益：觀眾可以借此了解在分類樹相關算法上的最新工作，以及對于我們最新工作的更好了解。

新技術/實用技術點：目錄樹擴展算法（Taxonomy expansion algorithms）

03

簡翌

UIUC?|?Ph.D Candidate

Eli?Chien?is?currently?a?Ph.D.?candidate?in?the?department?of?Electrical?and?Computer?Engineering?at?the?University?of?Illinois?Urbana-Champaign.?He?works?on?a?broad?range?of?problems?related?to?algorithms?to?process?the?non-Euclidean?data,?including?(hyper)graph?and?hyperbolic?space.?His?researches?mainly?focus?on?connecting?theory?and?practice?by?developing?and?analyzing?principled?algorithms.?Specifically,?his?recent?research?results?include?Generalized?PageRank?algorithm,?theory?for?graph?neural?networks,?active?learning?on?(hyper)graphs,?hypergraph?analysis?for?biology?applications?and?learning?in?hyperbolic/product?space.?Previously,?he?also?works?on?semi-supervised?k-means?problem,?support?estimation?problem?and?statistical?modeling?for?hypergraphs.?His?works?got?published?in?TIT,?NeurIPS,?ICLR,?AISTATS,?AAAI,?ISIT?and?ICASSP.

彭建浩

UIUC?|?Ph.D Candidate

Education:?Current?PhD?student?in?ECE?department?of?Univerity?of?Illinois,?Urbana-Champaign?(UIUC).?M.S?degree?from?UIUC,?B.S?degree?from?South?China?Univeristy?of?Technology.

Work?Experience:?Internships?in?Amazon?Search?Science?and?Artificial?Intelligence.

Research?Interest:?Computational?biology,?online?learning,?graph?neural?networks.

Ongoing?work:?learning?on?hypergraph,?online?network?dictionary?learning.

分享主題：Adaptive Universal Generalized PageRank Graph Neural Network

內容摘要：In?many?important?graph?data?processing?applications,?the?acquired?information?includes?both?node?features?and?observations?of?the?graph?topology.?Graph?neural?networks?(GNNs)?are?designed?to?exploit?both?sources?of?evidence?but?they?do?not?optimally?trade-off?their?utility?and?integrate?them?in?a?manner?that?is?also?universal.?Here,?universality?refers?to?independence?on?homophily?or?heterophily?graph?assumptions.?We?address?these?issues?by?introducing?a?new?Generalized?PageRank?(GPR)?GNN?architecture?that?adaptively?learns?the?GPR?weights?so?as?to?jointly?optimize?node?feature?and?topological?information?extraction,?regardless?of?the?extent?to?which?the?node?labels?are?homophilic?or?heterophilic.?Learned?GPR?weights?automatically?adjust?to?the?node?label?pattern,?irrelevant?on?the?type?of?initialization,?and?thereby?guarantee?excellent?learning?performance?for?label?patterns?that?are?usually?hard?to?handle.?Furthermore,?they?allow?one?to?avoid?feature?over-smoothing,?a?process?which?renders?feature?information?nondiscriminative,?without?requiring?the?network?to?be?shallow.?Our?accompanying?theoretical?analysis?of?the?GPR-GNN?method?is?facilitated?by?novel?synthetic?benchmark?datasets?generated?by?the?so-called?contextual?stochastic?block?model.?We?also?compare?the?performance?of?our?GNN?architecture?with?that?of?several?state-of-the-art?GNNs?on?the?problem?of?node-classification,?using?well-known?benchmark?homophilic?and?heterophilic?datasets.?The?results?demonstrate?that?GPR-GNN?offers?significant?performance?improvement?compared?to?existing?techniques?on?both?synthetic?and?benchmark?data.

聽眾收益：Learn?how?GPR-GNN?simultaneously?resolves?fundamental?weaknesses?in?GNNs,?including:

• adapt?to?arbitrary?level?of?homophily?and?heterophily?

• make?use?of?long?path?information?and?prevent?over-smoothing?

• resolve?over-fitting?problem

• Interpretability?of?learned?weights?in?GPR-GNN

新技術/實用技術點：

• Generalized?PageRank.

• Optimal?polynomial?graph?filtering?(adapts?to?heterophilic?graph?data)

• Prevent?over-smoothing

04

朱彥樵

中國科學院自動化研究所 | 碩士研究生

朱彥樵目前在中國科學院自動化研究所攻讀計算機科學碩士。他目前的研究興趣是圖表達學習及其在推薦系統中的應用，已在領域內知名會議如AAAI、WWW和SIGIR上發表多篇論文，論文被引用超過290次。

分享主題：Recent Progress on Graph Contrastive Learinng

內容摘要：Self-supervised?learning?(SSL)?has?been?studied?extensively?for?alleviating?the?label?scarcity?problem?of?deep?models.?Recent?SSL?techniques?are?converging?around?the?central?theme?of?contrastive?learning?(CL),?which?aims?to?maximize?the?agreement?of?representations?under?multiple?views?of?input?data.?However,?the?development?of?CL?for?graph-structured?data?remains?nascent.?In?this?talk,?I?will?introduce?recent?progress?on?graph?CL.?In?particular,?I?will?introduce?a?general?graph?CL?paradigm?and?our?recent?work?on?graph?CL?with?adaptive?augmentation.?Moreover,?I?will?share?some?thoughts?and?outline?future?directions?regarding?this?topic.

聽眾收益：聽眾可以了解自監督表達學習在圖結構數據上的最新研究進展——圖對比學習。

新技術/實用技術點：

• 圖表達學習最新研究進展

• 圖表達學習的一般框架?(GRL+@ICML?2020)

• 結合結構自適應增強的圖表達學習模型?(WWW?2021)

03

直播報名

識別二維碼，免費報名

04

相關推薦

美團技術團隊：

10000+工程師，如何支撐中國領先的生活服務電子商務平臺？4.6億消費者、630萬商戶、2000多個行業、幾千億交易額背后是哪些技術？這里是美團、大眾點評、美團外賣、美團配送、美團優選等技術團隊的對外窗口。

圖與推薦：

一位在中科院/淘寶/達摩院/螞蟻金服/華為做過圖神經網絡技術分享的算法大佬。本科懵懂，在化學系刷試管；后來去讀了計算機博士，會寫一點代碼，發過算法頂會論文，也做過十億級場景的算法落地。希望能分享一些圖神經網絡/推薦系統/博士科研/工業實踐中的一點經驗~?人生苦短，及時行樂。

DataFunTalk：

專注于大數據、人工智能技術應用的分享與交流。發起于2017年，在北京、上海、深圳、杭州等城市舉辦超過100場線下沙龍、論壇及峰會，已邀請近600位專家和學者參與分享。其公眾號 DataFunTalk 累計生產原創文章300+，百萬+閱讀，9萬+精準粉絲。

---

?

OpenKG

開放知識圖譜（簡稱 OpenKG）旨在促進中文知識圖譜數據的開放與互聯，促進知識圖譜和語義技術的普及和廣泛應用。

點擊閱讀原文，進入 OpenKG 網站。

總結

以上是生活随笔為你收集整理的技术沙龙 | 图神经网络(GNN)最新研究进展分享的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。