---

←上一篇↓↑下一篇→

3.12 總結(jié)	回到目錄	1.2 正交化

---

為什么需要ML策略 (Why ML strategy?)

大家好，歡迎收聽本課，如何構(gòu)建你的機(jī)器學(xué)習(xí)項(xiàng)目也就是說機(jī)器學(xué)習(xí)的策略。我希望通過這門課程你們能夠?qū)W到如何更快速高效地優(yōu)化你的機(jī)器學(xué)習(xí)系統(tǒng)。那么，什么是機(jī)器學(xué)習(xí)策略呢？

我們從一個(gè)啟發(fā)性的例子開始講，假設(shè)你正在調(diào)試你的貓分類器，經(jīng)過一段時(shí)間的調(diào)整，你的系統(tǒng)達(dá)到了90%準(zhǔn)確率，但對(duì)你的應(yīng)用程序來說還不夠好。

你可能有很多想法去改善你的系統(tǒng)，比如，你可能想我們?nèi)ナ占嗟挠?xùn)練數(shù)據(jù)吧。或者你會(huì)說，可能你的訓(xùn)練集的多樣性還不夠，你應(yīng)該收集更多不同姿勢的貓咪圖片，或者更多樣化的反例集。或者你想再用梯度下降訓(xùn)練算法，訓(xùn)練久一點(diǎn)。或者你想嘗試用一個(gè)完全不同的優(yōu)化算法，比如Adam優(yōu)化算法。或者嘗試使用規(guī)模更大或者更小的神經(jīng)網(wǎng)絡(luò)。或者你想試試dropout或者 $L2$ 正則化。或者你想修改網(wǎng)絡(luò)的架構(gòu)，比如修改激活函數(shù)，改變隱藏單元的數(shù)目之類的方法。

當(dāng)你嘗試優(yōu)化一個(gè)深度學(xué)習(xí)系統(tǒng)時(shí)，你通常可以有很多想法可以去試，問題在于，如果你做出了錯(cuò)誤的選擇，你完全有可能白費(fèi)6個(gè)月的時(shí)間，往錯(cuò)誤的方向前進(jìn)，在6個(gè)月之后才意識(shí)到這方法根本不管用。比如，我見過一些團(tuán)隊(duì)花了6個(gè)月時(shí)間收集更多數(shù)據(jù)，卻在6個(gè)月之后發(fā)現(xiàn)，這些數(shù)據(jù)幾乎沒有改善他們系統(tǒng)的性能。所以，假設(shè)你的項(xiàng)目沒有6個(gè)月的時(shí)間可以浪費(fèi)，如果有快速有效的方法能夠判斷哪些想法是靠譜的，或者甚至提出新的想法，判斷哪些是值得一試的想法，哪些是可以放心舍棄的。

我希望在這門課程中，可以教給你們一些策略，一些分析機(jī)器學(xué)習(xí)問題的方法，可以指引你們朝著最有希望的方向前進(jìn)。這門課中，我會(huì)和你們分享我在搭建和部署大量深度學(xué)習(xí)產(chǎn)品時(shí)學(xué)到的經(jīng)驗(yàn)和教訓(xùn)，我想這些內(nèi)容是這門課程獨(dú)有的。比如說，很多大學(xué)深度學(xué)習(xí)課程很少提到這些策略。事實(shí)上，機(jī)器學(xué)習(xí)策略在深度學(xué)習(xí)的時(shí)代也在變化，因?yàn)楝F(xiàn)在對(duì)于深度學(xué)習(xí)算法來說能夠做到的事情，比上一代機(jī)器學(xué)習(xí)算法大不一樣。我希望這些策略能幫助你們提高效率，讓你們的深度學(xué)習(xí)系統(tǒng)更快投入實(shí)用。

課程PPT

---

←上一篇↓↑下一篇→

3.12 總結(jié)	回到目錄	1.2 正交化

---

總結(jié)

以上是生活随笔為你收集整理的1.1 为什么需要 ML 策略-深度学习第三课《结构化机器学习项目》-Stanford吴恩达教授的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。