循环神经网络:RNN、LSTM、GRU、BPTT
生活随笔
收集整理的這篇文章主要介紹了
循环神经网络:RNN、LSTM、GRU、BPTT
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
目錄
1. RNN
2. BPTT與RNN梯度消失、梯度爆炸
3. LSTM
4. LSTM的變體
5. GRU
1. RNN
? ?https://blog.csdn.net/huwenxing0801/article/details/84894238
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
? ? ? ? ? ? ? ? ? ? ? ?
2. BPTT與RNN梯度消失、梯度爆炸
? ?https://blog.csdn.net/huwenxing0801/article/details/84941497
3. LSTM
? ? ??https://blog.csdn.net/huwenxing0801/article/details/84996269
? ? ? ? ??
? ? ? ? ?
也有不同的表達式:
?? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ?
或者
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ? ? ? ? ? ? ??
4. LSTM的變體
5. GRU
總結
以上是生活随笔為你收集整理的循环神经网络:RNN、LSTM、GRU、BPTT的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Tensorboard—使用keras结
- 下一篇: 论文《Attention Is All