深度学习资料挑的眼花啦?小夕帮你做选择!
小夕還記得幾年前剛入坑的時候,老師給的入門資料就是一堆論文!害的小夕差點放棄。。。
如今深度學習應用的開發成本越來越低,學習資料越來越多,于是對初學者來說進入了另一個相反的困境——資料過多,讓人眼花繚亂!哪怕是最最經典、頂尖的公開課。也是有好多門(斯坦福的、coursera的、MIT的、Berkeley的……)。更不必說眼花繚亂的紙質書籍,更更不用說鋪天蓋地的訂閱號(比如夕小瑤的賣萌屋)
如果你正在糾結如何去選擇,不妨先看看小夕的推薦~
首先,小夕沒有提到的資料,要么就是小夕沒有看過的,要么就是難以說好壞的,所以沒提到的資料要自己判斷哦,不代表資料不好~
另外嚴正聲明!小夕沒有收一分廣告費!這!不!是!廣!告!文!沒認真看過的資料小夕是不會瞎推的!
下面小夕就從視頻資料、書籍資料、其它資料給大家分別推薦啦。
視頻資料方面,小夕就不多推薦啦,因為看視頻真的是很磨時間的學習方式。就提一下三門課:
1、coursera上Ng開設的機器學習。
https://www.coursera.org/learn/machine-learning/
如果在入門深度學習之前都沒有接觸過機器學習的話,那么這門課是小夕建議十分有必要聽的~尤其是課程的好幾個大作業,Ng已經給你寫好的框架也要好好看,這對于摸清行業基本工程框架是十分有幫助的~可以說是理論與工程雙收的入門教程。當然,已經入門的就忽略吧。
2、斯坦福大學的公開課CS231n(深度學習與計算機視覺)。
http://cs231n.stanford.edu/
小夕是做自然語言處理(NLP)的,所以早就聽說了這門課但是一直也沒有去看。最近也是刷了幾節,感覺非視覺方向的小伙伴聽一聽也是有幫助的~不過個人覺得非視覺方向的,又不是有大把時間的,就不用太心心念這門課啦,這門課的更高效的替代品還是蠻多的。視覺方向的剛要入門的去刷就非常合適了。
3、斯坦福大學的公開課CS224d(深度學習與自然語言處理)。
http://cs224d.stanford.edu/syllabus.html
這門課是深度學習與自然語言處理的結合,開課老師是NLP領域的天才級大牛Richard Socher,幾乎各種遞歸網絡的提出者。NLP方向的小伙伴要入門深度學習的話,看這門課是很合適的,小夕也刷完了,畢竟詞向量這些概念的特性理解不透的話,CNN、RNN理解的再好也很容易瓶頸了。不過這門課對CNN在NLP領域的應用講的不多,還是建議剛入門的初學者刷一刷,已經入門的就不用啦,太浪費時間。
4、coursera上Ng開設的Neural networks and deep learning。
https://www.coursera.org/specializations/deep-learning
這門課實在太太太火,小夕也是前幾天抽出時間來挑著看了些,主要集中在第二、三章節上。發現這門課第二章節的內容跟Ng的《machine learning yearning》好好好像啊,甚至插圖都沒有變太多 =.= 對于初學者來說,這門課的內容是以后進行工程所不可或缺的,十分建議這門課和《machine learning yearning》最少要挑一個看!尤其是bias-variant trade-off理論,沒有人比Ng講的更清楚了。
對視頻資料總結一下,如果是一個完全態的新手,那么Ng的機器學習是十分有必要認真看的(是說認真看大作業的代碼!不僅僅是視頻!)。如果有機器學習基礎了,但是深度學習是個小白,神經網絡也理解很少,數學也不怎么樣,那么Ng的Neural networks and deep learning刷了絕對大有收獲的~如果機器學習和深度學習的基礎都有了,但是缺乏某一應用領域的應用套路,那么有時間可以刷CS231n或者cs224d,沒時間也無所謂的,繼續往下看啦~
紙質書籍方面,由于我們目標是深度學習的應用!而且精力有限!所以在書籍上的功夫一定要少而精。小夕力推兩本,這兩本也是小夕除了論文外,80%的知識來源~(算上論文也能占40%啦)
1、《Deep learning》,中文叫《深度學習》,已經開售了(應該沒有人不知道吧)。
這本書的價值和權威性不用我啰嗦。但是!我要吐槽一下,我覺得這本書除了主流的深度學習模型講的很一般以外,其它大部分章節還是挺好的!如果你看這本書的第9、10章學習CNN、RNN的時候感覺亂糟糟的,要么感覺太過啰嗦缺乏核心,要么感覺“天吶怎么一帶而過了”,那么不要懷疑自己的智商,因為小夕也懷疑過自己的智商了 =.= 。這些章節主要就用來索引論文吧。(當然如果你覺得講的棒呆了,恭喜你跟作者心有靈犀)
但是,這本書的6、7、8章還是很棒的!第一部分寫數學基礎的那幾章也是言簡意賅,恰到好處。總之“深度前饋網絡”、“正則化”、“優化”這幾章值得細細讀的~
另外,不要以為看完這本書你就對深度學習無所不能了,實際上還差很遠吶。這本書的價值在于讓你低成本(高效率)的補上最近幾年的主要理論成果,免得自己面對數百篇重要論文無從下手。順便提供了一個論文索引。工程能力的get要看下面這本神書!
2、《Hands On MachineLearning with Scikit Learn and TensorFlow》。
這本書是小夕秘藏好久的書籍!遇到它時也是緣分啦,有一次在Google瞎搜,結果出來一個“safari books online”的神奇網站,寶寶用了多年Safari,都沒有發現它還有這種地方!于是點進去,
?
噫?果然是個神奇的地方!然后就習慣性的去找人工智能、機器學習、深度學習等分類的書了。然后當時看到了相關主題的熱搜,當時的top1就是這本書!好奇之下點進去試讀,然后就中毒了。。。
不過不用擔心價格問題,只要你有書名,你懂嗒( ̄? ̄)
這本書真的是深度學習在工程應用上的神器!有很多工程tricks,比如工程上怎么初始化啦、怎么選擇激活函數啦、批量歸一化什么時候用之類的很現實的問題基本都能在這里找到答案!它又不同于《機器學習實戰》這種堆砌代碼的書籍,它的理論講解也很棒!整本書的組織也是循循善誘,代碼什么的與理論和實驗融為一體,而且最重要的是它也會給出大量的參考論文!論文都會在當頁的下方給出,簡直發現新大陸不能更方便了!
哦對了,這本書的前半部分是統計機器學習,后半部分是深度學習。小夕只看了深度學習部分。對于還沒有用過統計機器學習模型如SVM解決過工程問題的同學來說,前半部分也是神器了!所以超級初學者上完Ng的機器學習后,來這本書的前半部分深入學習簡直不能更高效了。
對書籍資料總結一下,只要你要做深度學習了,理論書方面目前最佳還是《deeplearning》。但是不要迷信部分章節的講解力,該啃參考論文就啃論文!大部分論文會比書上講的清晰很多(除了某些思維實在難以讓人理解的大牛的論文)。工程上的主力書,小夕只推《Hands On Machine Learning with Scikit Learn and TensorFlow》。超級新手順便把前半部分也挑著看一下,一般性初學者和工程經驗不太豐富的小伙伴好好看后半部分吧(尤其"training deep neural nets"那一章)
其它資料方面,力推兩個。
1、Udacity的深度學習課程里的projects。
https://github.com/udacity/deep-learning
如果深度學習工程能力僅僅停留在demo層面,還沒有自主做過大型demo或者說小型project,然后又覺得沒有人帶著無從下手,那么Udacity里的這些projects會把你感動哭的!
project從計算機視覺到自然語言處理,都有很典型的應用場景。而且每個project都是已經給定了框架,說明文檔非常詳細,大部分工程的代碼組織的也很棒,小夕前不久(前好久)說的閉關修煉就是指的在這里刷projects!收獲非常非常大!而且小夕有幸聽了這個課程配套的幾節課,簡直不要太友好,有經濟條件的同學來刷一下Udacity的《deep learning》課程收獲或許比CS231和CS224多。(Udacity是不是該給我點廣告費(。 ?︿ ?。))
2、各類知識分享平臺和企業媒體。(2020年更新:此節內容已過時
有很多各種推薦AI領域新聞的訂閱號大V我就不說啦,自己取舍~最后留在小夕手機里的,最常刷的,一個是之前在知乎上已經寫過的Quora,還有一個是“雷鋒網”APP。發現這個確實存在干貨的媒體也是通過某個大神的一篇文章(過一陣子的推送中就會提到這篇文章)然后就連帶著在這個媒體的APP里刷出來很多確實存在良心干貨的文章!這跟那些一談技術就滿篇浮夸和錯誤的媒體比起來簡直不能要求更多了。
也有很多專注寫干貨的微信訂閱號,小夕覺得很良心的有憶臻小哥哥的《機器學習算法與自然語言處理》、還有《哈工大SCIR》(自然語言處理的多一些),有時還會去周立“小叔叔”的《交互設計前端開發與后端程序設計》玩耍( ̄? ̄)
其它資料總結:Udacity的deeplearning課程projects會給已經入門的小伙伴帶去驚喜的~閑暇時間刷刷Quora、雷鋒網還有上述幾個良心訂閱號容易撞到停不下來的干貨哦。
大總結:堅持看到最后的一定是真愛 \(//?//)\
總結
以上是生活随笔為你收集整理的深度学习资料挑的眼花啦?小夕帮你做选择!的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 你的 GNN,可能 99% 的参数都是冗
- 下一篇: 正确的LeetCode刷题姿势!