前言

吳恩達的課程堪稱經(jīng)典，有必要總結一下。
學以致用，以學促用，通過筆記總結，鞏固學習成果，復習新學的概念。

目錄

文章目錄

• 前言
• 目錄
• 正文
• • 局部最小值問題

正文

優(yōu)化算法 隨機樣本梯度下降

批量和小批量梯度下降的比較。
小批量梯度下降算法
批量和小批量下降時的誤差曲線。
選擇你的樣本規(guī)模
典型的小批量數(shù)量選擇方式。

倫敦的氣溫，指數(shù)化歸一加權。
指數(shù)化加權平均。
通過加權平均，平滑變化率。
手動實現(xiàn)一個加權平均。
梯度計算中的偏差校正
梯度下降中的例子，有時候震蕩回比較厲害。
momentum（動量）更新的實現(xiàn)細節(jié)。
梯度更新的方法。
Adam優(yōu)化算法.
超參數(shù)選擇方案。
學習率更新方案。
學習率下降方案，更適應具體的問題。
其他的學習率下降方法。

局部最小值問題

算法有可能收斂到局部最小值，鞍點。
平原問題，更新較慢，但仍在更新。

與50位技術專家面對面20年技術見證，附贈技術全景圖

總結

以上是生活随笔為你收集整理的吴恩达 coursera AI 专项二第二课总结+作业答案的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。