分布式表示可以非常好的建立跨領(lǐng)域跨對象的知識遷移。有非常多的工作是去學(xué)習(xí)不同語言的各種詞匯在同一個空間里統(tǒng)一的表示，這種表示對構(gòu)建跨語言的知識遷移或者進(jìn)行機(jī)器翻譯都是非常重要的。此外有一個工作是試圖建立視覺信息和文本信息聯(lián)合統(tǒng)一的語義表示，現(xiàn)在有一個非常重要的新穎的任務(wù)是為圖片自動產(chǎn)生一句關(guān)于圖片的介紹Image Caption Generation，它是建立視覺和文本聯(lián)合表示的非常有意思的任務(wù)。

利用分布式表示進(jìn)行詞匯的語義表示可以進(jìn)行很多相關(guān)領(lǐng)域的研究，如 《Diachronic Word Embeddings Reveal Statistical Laws of Semantic Change》（https://arxiv.org/abs/1605.09096）是Stanford lp group在acl2016上發(fā)表的一篇文章，它是關(guān)于構(gòu)建同一個詞在不同的歷史時期的word in value的情況。

實(shí)際上它就可以很好的去發(fā)現(xiàn)這些詞的語義信息，隨著時間的變化，它演化的情況，這說明分布式表示可以有效的支持相關(guān)的語言學(xué)家進(jìn)行語義演化的研究。

上面是通過詞匯表示的方向來簡單介紹分布式表示的一些優(yōu)勢，接下來會花比較多的時間介紹知識表示一些相關(guān)的思想進(jìn)展，還有它在知識獲取方面的一些應(yīng)用。

知識表示的研究對象是知識圖譜，知識圖譜主要包括實(shí)體和關(guān)系兩個主要對象（節(jié)點(diǎn)代表實(shí)體，連邊代表關(guān)系）。

根據(jù)上圖，知識圖譜中每一個節(jié)點(diǎn)代表一個不同的實(shí)體，這些實(shí)體之間的連邊實(shí)際上反映了它們的關(guān)系，知識圖譜與傳統(tǒng)的社會網(wǎng)絡(luò)不同的地方在于在它里面每一條邊實(shí)際上都會帶有明確標(biāo)識類型關(guān)系的標(biāo)簽，它實(shí)際上讓知識圖譜變得更加復(fù)雜的同時也變得更加有表達(dá)能力。

知識圖譜也可以通過三元組的形式進(jìn)行表示，這種三元組（head，relation，tail）的表述，是一種典型基于符號的表示方法。也就是上圖可以用若干三元組表示，每一個三元組包括頭實(shí)體，尾實(shí)體和他們之間的某一種關(guān)系。比如上圖中patti和miami之間有born in的關(guān)系，那么頭實(shí)體就是head，尾實(shí)體就是miami，他們之間的relation關(guān)系是born in，也就是說知識圖譜可以用若干個三元組來進(jìn)行這種符號表示。

具有代表性的知識圖譜非常多，這里面舉兩個例子，一個是反應(yīng)人類的語言知識的wordnet，它是一個非常有代表性的被自然語言學(xué)者廣泛應(yīng)用的知識圖譜庫。另外一個非常有代表性的知識圖譜是關(guān)于世界相關(guān)知識的freebase，freeebase是被Google收購的一家創(chuàng)業(yè)公司，在收購之后逐漸擴(kuò)充，逐漸成為世界上最大的一個公開的知識圖譜庫。它在2014年被谷歌閉源，相關(guān)的知識庫已經(jīng)transform到了wikidata中。

知識圖譜典型代表方案是基于符號表示的三元組（rdf）形式，這種基于符號的表示有一個非常大的問題是它假設(shè)所有的實(shí)體或者說所有的關(guān)系，他們互相之間都是相互獨(dú)立的， 那么其實(shí)我們沒有很好和有效的辦法去衡量這些實(shí)體之間的語義關(guān)系，過去有非常多的研究算法被提出來，嘗試計(jì)算這些實(shí)體之間語義的關(guān)系，但是由于它們都是基于圖的算法，比如尋找最短路徑來反應(yīng)兩個實(shí)體之間的關(guān)系，這個計(jì)算過程其實(shí)是復(fù)雜度的非常高的一件事情，那么我們找到一個解決方案是將知識映射到低維向量空間中去，譬如把實(shí)體之間的關(guān)系能夠映射到低維向量空間中，這樣就可以很好的表示它們背后的語義信息，也能夠很好的計(jì)算任意兩個實(shí)體之間的語義關(guān)系，這就是這個解決方案的一個基本的思想。

總結(jié)

以上是生活随笔為你收集整理的【转】自然语言系列学习之表示学习与知识获取（三）知识图谱的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。