雙向循環(huán)神經(jīng)網(wǎng)絡(luò)

• 雙向 RNN結(jié)構(gòu)模型圖
• 公式表達
• 應(yīng)用舉例（完形填空）
• 優(yōu)劣
• 總結(jié)

雙向 RNN結(jié)構(gòu)模型圖

一個前向RNN隱層，一個后向RNN隱層，合并兩個隱狀態(tài)的到輸出。

公式表達

應(yīng)用舉例（完形填空）

第一行是普通的RNN預(yù)測，后面兩行可以使用雙向RNN做填詞，結(jié)果取決于過去和未來的上下文。

優(yōu)劣

如下圖所示，雙向RNN適合做訓練，因為訓練時會提供過去和未來的信息。

然而，對于推理，也即預(yù)測，雙向RNN則無法實現(xiàn)，因為它不僅需要過去的信息，還需要知道未來的信息。但是，未來的信息正是我們要推理的信息，所以無法實現(xiàn)。

總結(jié)

根據(jù)上面的訓練過程，我們可以通過雙向RNN提取文本的特征，這樣提取到的特征和上下文都有關(guān)系，常用于語句翻譯。

總結(jié)

以上是生活随笔為你收集整理的双向循环神经网络的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。