論文發表于1990年，作者哈佛大學數學系畢業，
雖然作者寫得很辛苦，但是呢，相關成果在當前并未成為主流，因為我們知道后面LSTM出來了嘛。
一句話概括這篇文章干了啥：

扯白了就是，對于上面圖中這個考慮過往輸入X(T-1),X(T-2)的RNN結構，作者給出了相關公式，
$$ne{t}_i(t)=\sum _{j=1}^{i?1}{W}_{ij}{x}_j(t)+\sum _{j=1}^{N+n}{W}_{ij}^{{}^{\prime }}{x}_j(t?1)+\sum _{j=1}^{N+n}{W}_{ij}^{{}^{\prime \prime }}{x}_j(t?2)$$
并且對于此類網絡如何使用反向傳播更新權重給出了自己的偽代碼。
上面這個圖什么意思呢？

當然了，github是2008年才出來的，所以也就沒有代碼。
但是我們后來都是使用LSTM的，所以這個論文看下大致思路就可以了。

總結

以上是生活随笔為你收集整理的Backpropagation Through Time:What it Does and How to Do it论文解读的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。