知识图谱最新权威综述论文解读：时序知识图谱部分
從最近一兩年有關知識圖譜的頂會論文中可以發現，越來越多的國內外研究者開始關注動態時序知識圖譜，可見時序知識圖譜已經成為了一大研究趨勢，相信之后會有更多相關研究出來。因此，這期我們對綜述論文的時序知識圖譜部分接著進行解讀，同時澤宇給出一些時序知識圖譜的研究現狀。
當前的知識圖譜的研究主要集中在事實不隨時間變化的靜態知識圖譜上，而知識圖譜的時序動態性則很少被研究。但是，時間對于表示知識非常重要，因為結構化知識僅在特定時期內有效，事實的發展遵循時間順序。最近的一些研究開始將時間信息納入知識圖譜表示學習和知識圖譜補全中。為了同時學習時間和實體關系的嵌入，已經進行了一些研究工作。
?
1 時序信息嵌入
通過將常見的形式為（h，r，t）的三元組擴展為（h，r，t，τ）的時序四元組，可以在時間感知嵌入中考慮時間信息，其中τ提供有關何時事實能夠成立的額外時間信息。Leblay和Chekol [1] 研究了帶時間標注的三元組的時間范圍預測，并簡單地擴展了現有的嵌入方法，例如，定義了基于向量的TTransE算法：
時間范圍內的四元組通過添加時間范圍[τs，τe]來擴展三元組，其中τs和τe代表三元組有效期的開始和結束時間點，然后，如果給定了靜態子圖Gτ，則可以從動態知識圖譜得出特定時間戳τ。HyTE [2] 將時間戳表示為超平面wτ并將實體和關系表示投影在超平面上得到新的表示為
?
時序投影后的打分函數為：
這時，我們的期望約束條件為：
Garc′?a-Duran等 [3] 將謂詞序列token和時間序列token進行了拼接，并使用LSTM編碼拼接后的時間感知謂詞序列。LSTM的最后一個隱層狀態作為時間感知的關系嵌入表示rtemp 。進一步，設計擴展的TransE和DistMult的打分函數分別為
通過將一個實體e的上下文定義為一個包含e的事實的集合，Liu等人[4] 提出了上下文選擇機制以捕捉有用的上下文信息，并測量其與選定的上下文信息的時間一致性。
?
2 動態實體
現實發生的事件會改變實體的狀態，并因此影響對應的關系。為了提高時序推理能力，上下文時序輪廓模型[5] 將時序問題建模為狀態變化檢測，并且使用上下文信息來學習狀態和狀態變化向量。Knowl-evolve[6] 是一個深度演化知識網絡，能夠發掘實體和關系的知識演化趨勢。一個多多元時間點過程被用來建模事件的發生，并且提出一個新的循環神經網絡來學習非線性時序演化的表示。為了取得節點之間的交互，RENET [7] 利用基于RNN的事件編碼器和鄰居聚合器建模了事件序列。具體來說，RNN用于捕捉動態實體交互，并發交互可以由鄰域聚合器聚合得到。
?
3 時序關系的依存
根據時間線，關系鏈條中存在時序依存的特性，例如，wasBornIn →graduateFrom → workAt → diedIn這樣一個關系鏈條，其中的關系由于存在時序依存約束所以需要滿足一定的先后順序。Jiang 等人 [8], [9] 提出時間感知的嵌入，這是一種考慮時序正則約束的聯合學習框架，為了能夠結合時間的次序和一致性信息。研究者定義了一個時序打分函數
這里
是一個能夠編碼時序關系對的對稱矩陣。并且作者能夠將不相交、有序和跨度這三個時間一致性約束進一步通過整形線性規劃應用在時序關系的建模中。
?
4 時序邏輯推理
邏輯規則也能夠用于時序推理。Chekol 等人[10] 在不確定性時序知識圖譜上將馬爾可夫邏輯網和概率軟邏輯用于時序推理。RLvLR-Stream模型[11] 考慮時序封閉路徑規則，能從知識圖譜的時序變化中學習規則的結構并用于推理。
?
5 時序知識圖譜Github項目
澤宇發現GitHub上也有一些比較好的時序知識圖譜相關的項目，在這里分享給大家：
時序知識圖譜補全綜述：
https://github.com/woojeongjin/dynamic-KG
時序與演化知識圖譜綜述：
https://github.com/shengyp/Temporal-and-Evolving-KG
HyTE：
https://github.com/malllabiisc/HyTE
Know-Evolve：
https://github.com/rstriv/Know-Evolve
RENET：
https://github.com/INK-USC/RE-Net
?
參考文獻
[1] J. Leblay and M. W. Chekol,“Deriving validity time in knowledge graph,” in WWW, 2018, pp. 1771–1776.
[2] S. S. Dasgupta, S. N. Ray, andP. Talukdar, “Hyte: Hyperplanebased temporally aware knowledge graphembedding,” in EMNLP, 2018, pp. 2001–2011.
[3] A. Garc′?a-Duran, S. Duman′cic, and M. Niepert, “Learning sequence encoders for temporal knowledge graph completion,” in EMNLP, 2018, pp. 4816–4821.
[4] Y. Liu, W. Hua, K. Xin, and X.Zhou, “Context-aware temporal knowledge graph embedding,” in WISE, 2019, pp.583–598.
[5] D. T. Wijaya, N. Nakashole, andT. M. Mitchell, “CTPs: Contextual temporal profiles for time scoping factsusing state change detection,” in EMNLP, 2014, pp. 1930–1936.
[6]R. Trivedi, H. Dai, Y. Wang,and L. Song, “Know-evolve: Deep temporal reasoning for dynamic knowledge graphs,” in ICML, 2017, pp. 3462–3471.
[7] W. Jin, C. Zhang, P. Szekely,and X. Ren, “Recurrent event network for reasoning over temporal knowledge graphs,” in ICLR RLGM Workshop, 2019.
[8] T. Jiang, T. Liu, T. Ge, L.Sha, B. Chang, S. Li, and Z. Sui, “Towards time-aware knowledge graph completion,” in COLING, 2016, pp. 1715–1724.
[9] T. Jiang, T. Liu, T. Ge, L.Sha, S. Li, B. Chang, and Z. Sui, “Encoding temporal information for time-aware link prediction,” in EMNLP, 2016, pp. 2350–2354.
[10] M. W. Chekol, G. Pirro, J.Schoenfisch, and H. Stuckenschmidt, “Marrying uncertainty and time in knowledge graphs,” in AAAI, 2017, pp. 88–94.
[11] P. G. Omran, K. Wang, and Z.Wang, “An embedding-based approach to rule learning in knowledge graphs,” IEEE TKDE, pp. 1–12, 2019.
?
往期精選：
年末巨制：知識圖譜嵌入方法研究總結
速覽EMNLP 2020上錄取的知識圖譜相關論文
介紹一些知識圖譜的實際應用類項目
知識圖譜最新權威綜述論文解讀：知識表示學習部分
手把手教你搭建一個中式菜譜知識圖譜可視化系統
?
如果對文章感興趣歡迎關注知乎專欄“人工智能遇上知識圖譜“，也可以掃描下方二維碼關注同名微信公眾號“人工智能遇上知識圖譜”，讓我們一起學習并交流討論人工智能與知識圖譜技術。
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
總結
以上是生活随笔為你收集整理的知识图谱最新权威综述论文解读：时序知识图谱部分的全部內容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： 10 操作系统第二章 进程管理 死锁、
- 下一篇： Python中出现:AttributeE