节后收心困难?这15篇论文,让你迅速找回学习状态
在碎片化閱讀充斥眼球的時代,越來越少的人會去關注每篇論文背后的探索和思考。
在這個欄目里,你會快速 get 每篇精選論文的亮點和痛點,時刻緊跟 AI 前沿成果。
點擊本文底部的「閱讀原文」即刻加入社區,查看更多最新論文推薦。
這是 PaperDaily 的第 135篇文章各位煉丹師,小長假結束后的這幾天,你是否出現了以下癥狀:
·不想上課
沉浸在假期中難以自拔,很難相信自己真要上課了,總覺得自己很累,無法集中精力,很難進入學習狀態。
·旅游后遺癥
旅途中過于勞累外加吃睡不規律。
·每逢過節胖三斤
假期宅在家,追劇游戲胡吃海喝一個都沒落下。
·起不了床
由于旅行時差或者作息問題,你已經變成晚上睡不著,早上醒不來的起床困難戶了。
這些「節后綜合癥」靠自己難以克服?是時候靠些外力來「支撐」你啦!
小編精挑細選的 15?篇優質論文都在這里,助你一鍵擺脫「節后綜合癥」,精神飽滿,快速回到工作學習狀態。
@劉佳瑋 推薦
#Knowledge Graph Embedding
本文是新南威爾士大學發表于 NeurIPS 2019 的工作。在這項工作中,本文超越了傳統的復值表示,為模型實體和知識圖嵌入關系引入了更具表現力的超復雜表示,即四元嵌入,具有三個虛部的超復數值嵌入用于表示實體。關系被建模為四元數空間中的旋轉。
所提出的方法的優點是:1)利用漢密爾頓積適當地捕獲所有組件之間潛在的相互依賴性,促進實體和關系之間更緊密的交互;2)四元數能夠在四維空間中進行表達式旋轉,并且比復雜平面中的旋轉具有更大的自由度;3)所提出的框架是 ComplEx 在超復數空間上的推廣,同時提供更好的幾何解釋,同時滿足關系表示學習的關鍵要求(即對稱性、反對稱性和反演)。實驗結果表明,本文的方法在四個完善的知識圖完成基準上實現了最先進的性能。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3221
源碼鏈接
https://github.com/cheungdaven/QuatE
@kilifunny?推薦
#Semi-Supervised Learning
本文來自 Google Research,這一方法綜合了自洽正則化(Consistency Regularization),最小化熵(Entropy Minimization)以及傳統正則化(Traditional Regularization),取三者之長,并補三者之短,提出了 MixMatch 這一方法。在 CIFAR10 上,僅僅使用 250 個標簽數據就達到 11% 的錯誤率,遠超其他主流方法。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3035
源碼鏈接
https://github.com/google-research/mixmatch
@jhy1993 推薦
#Graph Neural Networks
本文是圖分析大牛 Bryan Perozzi 組發表于 ICML 2019 的工作。本文 argue 現有的 GNN 模型無法學習到一種很通用的鄰居混合信息,然后提出了 MixHop 來混合不同階鄰居的信息并學習節點表示。
MixHop 非常的高效并且有很強的理論背景(MixHop 與 delta operators 之間的聯系)。另外,通過混合各階信息,MixHop 一定程度上避免了 GNN 過平滑問題。GNN 的過平滑問題:隨著層數的增加,GNN 所學習到的節點表示變的沒有區分度。最后作者通過大量的試驗驗證了 MixHop 的效果。
在 Citeseer,Cora 和 Pubmed 上,MixHop 都取得了大量提升。例如,雖然 MixHop 沒有使用注意力機制來學習鄰居的重要性,但其表現依然大幅超過 GAT。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3216
源碼鏈接
https://github.com/samihaija/mixhop
@tron1992?推薦
#Image Segmentation
本文來自廈門大學、騰訊優圖、中山大學和香港中文大學。論文提出了一種新的不確定度計算方式,嘗試利用不確定度解決無監督域適應的問題。此外,本文還提出了一種基于不確定度的損失。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3207
@馬學喆?推薦
#Seq2Seq
本文是 CMU 和 Facebook AI 聯合發表于 EMNLP 2019 的工作。為了解決自自回歸模型(auto regressive)在 Seq2Seq 問題上解碼速度慢,只能利用一側上下文信息等問題,提出了利用 generative flow 的非自回歸模型(non-autoregressive)FlowSeq。在機器翻譯任務上面的相比于之前的非自回歸模型有顯著提高,大大縮小了與自回歸模型的差距。同時解碼速度比自回歸模型明顯加快。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3218
源碼鏈接
https://github.com/XuezheMax/flowseq
@SandraWu 推薦
#Video Representation Learning
近期來自 VGG 的高質量工作,因為沒有在主會議發表所以沒有引起大范圍關注,但保持了一貫低調又實用的風格。本文提出了一種新型的自監督學習(self-supervised learning)方法 Dense Predictive Coding,學習視頻的時空表征,在動作識別任務(UCF101 和 HMDB51 數據集)上獲得了 state-of-the-art 的正確率,并且用無需標注的自監督學習方法在視頻動作識別上達到了 ImageNet 預訓練的正確率。?
自監督學習是利用無標注的數據設計代理任務(proxy task),使網絡從中學到有意義的數據表征。本文設計的代理任務是預測未來幾秒的視頻的特征,并且用對比損失(contrastive loss)使得預測的特征和實際的特征相似度高,卻不必要完全相等。因為在像素級別(pixel-level)預測未來的幀容易受到大量隨機干擾如光照強度、相機移動的影響,而在特征級別(feature-level)做回歸(regression)則忽視了未來高層特征的不可預測性(如視頻的未來發展存在多種可能)。
文中的設計促使網絡學習高層語義特征,避免了網絡拘泥于學習低層特征。作者在不帶標注的 Kinetics400 上訓練了自監督任務(Dense Predictive Coding),然后在 UCF101 和 HMDB51 上測試了網絡所學權重在動作識別上的正確率。
Dense Predictive Coding 在 UCF101 數據集上獲得了 75.7% 的 top1 正確率,超過了使用帶標注的 ImageNet 預訓練權重所獲得的 73.0% 正確率。該研究結果證明了大規模自監督學習在視頻分類上的有效性。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3222
源碼鏈接
https://github.com/TengdaHan/DPC
@ziyuL 推薦
#Brain Computer Interface
本文是一篇基于深度學習的腦機接口綜述,總結了最近幾年 250 余篇前沿研究,根據腦電信號將 BCI 分成了 7 大類,十余個小類,并對每一類的特性和適合的深度學習模型進行了詳細的介紹。
另外,總結了腦機接口的應用場景,一共 8 大類 15 個小類,例如睡眠檢測,腦部疾病診斷,智能家居等等。最后列出了算法和應用方面的一些挑戰,并給出了一些思考和初步的探索(包括作者發表在 KDD,UbiComp, AAAI, IJCAI 等頂級會議的工作)。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3020
@jhy1993 推薦
#Intent Recommendation
本文是北京郵電大學和阿里巴巴發表于 KDD 2019 的工作。針對手機淘寶的用戶意圖推薦,本文設計了基于異質圖神經網絡的意圖推薦模型 MEIRec。
傳統商品推薦為用戶推薦商品,而意圖推薦則關注于預測用戶的意圖。本文將意圖推薦的業務場景建模為異質圖(包含多種類型節點和關系的圖),然后設計了 metapath-guided heterogeneous Graph Neural Network 來學習該業務場景下多種不同目標的表示。同時,本文也提出一種 term embedding mechanism 來降低大規模異質圖場景下的參數量。最后,在淘寶真實場景下的 AB test 證明了 MEIRec 算法的優越性。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3208
源碼鏈接
https://github.com/googlebaba/KDD2019-MEIRec
@bugman 推薦
#Text Generation
本文來自中科院,論文將知識圖譜的 Trans 思想引入到句子表示空間,提出了一個新的任務 Sentence Transfer,為了解決這個任務構建了三個數據集。人會在寫作的時候使用連詞(discourse marker,比如 and, but, if...)來銜接子句(discourses),連詞用來顯式地表達前后子句之間的語義關系。
因此作者認為在 embedding space 中,子句之間可以利用連詞(表示的關系)進行遷移/翻譯。在學習出句子之間的 Trans 模型后,可以用來分階段生成結構化長句:首先生成首子句,然后選擇一種關系,再 Trans 生成尾子句。這樣的生成方式可以和現有的問答等任務結合。作者還給出了一個數據集上的實驗結果。總體來說本文給出了一個新的生成的思路,值得發掘。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3200
數據集鏈接
https://github.com/1024er/TransSent_dataset
@lijin 推薦
#Zero-shot Learning
本文是電子科技大學和昆士蘭大學發表于 ACM MM 2019 的工作。論文首次提出了生成式零樣本學習中的特征混淆(feature confusion)問題,并提出了一種簡單可行的解決特征混淆的方法。此外,作者還首次提出了一個特征混淆的度量指標。零樣本學習結果在公開數據集上達到目前 SOTA 水平。
▲ ?論文模型:點擊查看大圖論文鏈接
https://www.paperweekly.site/papers/3210
源碼鏈接
https://github.com/lijin118/AFC-GAN
@jhy1993 推薦
#Text Classification
本文是北京郵電大學和南洋理工發表于 EMNLP 2019 的工作,文章創新性地將短文本分類問題建模為異質圖(多種類型的節點和邊)并提出一種端到端的異質圖神經網絡。短文本分類往往會遇到稀疏性問題(文本過短,無法提供足夠的信息)。本文通過構圖可以可以的豐富短文本之間的聯系,進而較好的解決稀疏性問題。
另外,本文創新地提出一種異質圖神經網絡 HGAT。HGAT 分別從節點級別和類型級別聚合信息來更新節點表示。最后本文在 6 個數據集上做了大量的實驗來驗證 HGAT 的優越性。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3211
@yuyu2223 推薦
#Social Recommendation
本文為發表在 ICDM 2019 的工作。論文提出了一種基于生成對抗訓練框架的 social recommendation 模型,指出了現有社會化推薦模型中的關系缺失、噪聲問題,并利用對抗訓練改善了這些問題,提高了社會化推薦的效果。此外,以往基于 Policy Gradient 的離散 GAN 在訓練時存在 reward 函數設計困難,收斂難等問題,本文利用重參數技巧,對模型進行了 End-to-End 的訓練,繞開了 reward 函數,取得了很好的效果。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3201
論文鏈接
http://github.com/Coder-Yu/RecQ
@icaruss 推薦
#Response Generation
本文是微軟發表于 EMNLP 2019 的工作,這是 SpaceFusion (Jointly optimizing diversity and relevance in neural response generation, NAACL 2019) 的后續之作。SpaceFusion 嘗試將對話系統中的 source 和 target 映射到同一隱空間上,從而轉換生成對話的問題成為生成隱空間向量的問題。本文(StyleFusion)進一步將額外的風格化文本的特征遷移到生成回復中,從而達到對話個性化和風格化的效果。在若干標準數據集上取得了很好的效果。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3206
源碼鏈接
https://github.com/golsun/StyleFusion
@劉佳瑋?推薦
#Graph Neural Networks
本文是圭爾夫大學發表于 NeurIPS 2019 的工作。本文的目標是更好地理解圖神經網絡(GNN)中節點的注意力,并確定影響其有效性的因素。本文特別關注將注意力 GNN 泛化到更大,更復雜或更嘈雜的圖的能力。受圖同構網絡工作的啟發,本文設計了簡單的圖推理任務,使本文能夠在受控環境中研究注意力機制。本文發現在典型條件下,注意力的影響可以忽略甚至是有害的,但在某些條件下,它在一些分類任務中提供超過 60% 的特殊性能提升。在實踐中滿足這些條件是具有挑戰性的,并且通常需要對注意力機制進行監督訓練。本文提出了一種替代方法,并以弱監督的方式訓練注意力,以接近監督模型的性能,并且與無監督模型相比,改進了幾個合成數據集和真實數據集的結果。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3220
論文鏈接
https://github.com/bknyaz/graph_attention_pool
@muxin?推薦
#Object Detection
本文是首爾大學和首爾科技大學發表于 ICCV 2019 的工作。作者提出了一種改進的 YOLOv3 模型,對于我們改進模型有很好的啟示作用。文章清晰明了,便于理解。
▲?論文模型:點擊查看大圖
論文鏈接
https://www.paperweekly.site/papers/3197
#推 薦 有 禮#
本期所有入選論文的推薦人
均將獲得PaperWeekly紀念周邊一份
▲?深度學習主題行李牌/卡套 + 防水貼紙
?禮物領取方式?
推薦人請根據論文詳情頁底部留言
添加小助手領取禮物
*每位用戶僅限領取一次
想要贏取以上周邊好禮?
點擊閱讀原文即刻推薦論文吧!
點擊以下標題查看往期推薦:?
??
??
??
??
??
??
#投 稿 通 道#
?讓你的論文被更多人看到?
如何才能讓更多的優質內容以更短路徑到達讀者群體,縮短讀者尋找優質內容的成本呢?答案就是:你不認識的人。
總有一些你不認識的人,知道你想知道的東西。PaperWeekly 或許可以成為一座橋梁,促使不同背景、不同方向的學者和學術靈感相互碰撞,迸發出更多的可能性。
PaperWeekly 鼓勵高校實驗室或個人,在我們的平臺上分享各類優質內容,可以是最新論文解讀,也可以是學習心得或技術干貨。我們的目的只有一個,讓知識真正流動起來。
??來稿標準:
? 稿件確系個人原創作品,來稿需注明作者個人信息(姓名+學校/工作單位+學歷/職位+研究方向)?
? 如果文章并非首發,請在投稿時提醒并附上所有已發布鏈接?
? PaperWeekly 默認每篇文章都是首發,均會添加“原創”標志
? 投稿郵箱:
? 投稿郵箱:hr@paperweekly.site?
? 所有文章配圖,請單獨在附件中發送?
? 請留下即時聯系方式(微信或手機),以便我們在編輯發布時和作者溝通
?
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 獲取更多論文推薦
總結
以上是生活随笔為你收集整理的节后收心困难?这15篇论文,让你迅速找回学习状态的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: CVPR 2019 | APDrawin
- 下一篇: 怎么在del里面设置u盘启动 &