【初识LSTM——长短期记忆网络】生动介绍(图文版)
這是一期 關(guān)于LSTM科普介紹的Blog。下文所有內(nèi)容均來(lái)自Bilibili視頻,是博主整理的視頻文案,同時(shí)對(duì)于 便于理解的圖,也進(jìn)行了截圖上傳。整理不易,請(qǐng)尊重原創(chuàng)視頻,故 出處均已在文中指明~ 另外,也求個(gè)點(diǎn)贊,幾分鐘的視頻,一點(diǎn)一點(diǎn)打字做記錄,截圖保存,整了有幾個(gè)小時(shí)。謝謝大家。
目錄
- 語(yǔ)言理解(1)
- 語(yǔ)言理解(2)
- 后記
語(yǔ)言理解(1)
我們知道 RNN 有一定的記憶能力,不幸的是,它只能保留短期記憶,在各類任務(wù)上表現(xiàn)并不好。那該怎么辦呢?
人們將目標(biāo)投向了自己,人類的記憶是有取舍的,我們不會(huì)記住每時(shí)每刻發(fā)生的所有事,會(huì)有選擇地留下【重要的】,丟掉【不重要的】。參考這種記憶機(jī)制,人們改造了小盒子,并找到了門這種機(jī)制,門是用來(lái)決定信息如何保留的小開(kāi)關(guān),它的數(shù)值在【0,1】之間,1是完全保留,0是完全舍棄。
新的小盒子上有三個(gè)門,其中 遺忘門 決定了小盒子里要保留多少原有信息,也就是丟掉哪些不重要的信息;輸入門決定了當(dāng)前網(wǎng)絡(luò)信息有多少要被保存到小盒子里,也就是記住哪些新東西;輸出門決定了多大程度地輸出小盒子中的信息,經(jīng)過(guò)改造的小盒子,既能通過(guò)輸入門 對(duì)當(dāng)前網(wǎng)絡(luò) 狀態(tài)有所了解,又能通過(guò)遺忘門 留下過(guò)往的
總結(jié)
以上是生活随笔為你收集整理的【初识LSTM——长短期记忆网络】生动介绍(图文版)的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: android 隐藏或修改EditTex
- 下一篇: 诺基亚1600自谱铃声方法