到底為什么基于反向傳播的純監督學習在過去表現不佳？Geoffrey Hinton總結了目前發現的四個方面問題：

帶標簽的數據集很小，只有現在的千分之一. 計算性能很慢，只有現在的百萬分之一. 權重的初始化方式笨拙. 使用了錯誤的非線性模型。

深度學習=許多訓練數據+并行計算+規模化、靈巧的的算法

---

鏈式法則

---

---

反向傳播

---

直接套用鏈式法則

先計算鏈式法則里面的第一項

計算鏈式法則第二項，第二項繼續使用鏈式法則

鏈式法則第二項，第二項的鏈式法則

第二項鏈式法則的簡寫

---

分情況考慮

---

如果正好是最后一層，即output layer

如果不是最后一層，一直不斷的計算，直到最后一層output layer.

---

直接從最后一層開始計算

---

---

參考文獻

---

http://speech.ee.ntu.edu.tw/~tlkagk/courses_ML17.html

總結

以上是生活随笔為你收集整理的李宏毅机器学习课程7~~~反向传播的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。