【知识星球】千奇百怪的网络结构板块更新到哪里了?
《網(wǎng)絡(luò)結(jié)構(gòu)》是有三AI知識星球的一個板塊,在這里,我們會覆蓋幾乎所有有意義的網(wǎng)絡(luò)結(jié)構(gòu),每日一更,配以圖文閱讀+論文下載,下面請看當前更新狀態(tài)。
目前已經(jīng)超過30篇文章了,內(nèi)容覆蓋了這些。
(1) CNN起源網(wǎng)絡(luò)。
從什么時候開始,才算是卷積神經(jīng)網(wǎng)絡(luò)的誕生呢?圖像和語音又是如何受益于卷積神經(jīng)網(wǎng)絡(luò),為什么網(wǎng)絡(luò)要采用分層的設(shè)計,是誰開始使用最大池化?LeNet5為什么要加個5呢?難道還有1,2,3,4嗎?除了分類數(shù)字,上個世紀的CNN還有其他用嗎?
Neocognitron,TDNN,HMAX,Cresceptron等網(wǎng)絡(luò)可以了解一下。
(2) 經(jīng)典網(wǎng)絡(luò)的發(fā)展。
為什么深度學(xué)習(xí)崛起從RBM開始?AlexNet誕生之前Alex同學(xué)在干什么?VGG怎么就想起來使用小卷積了呢?1*1卷積如何大發(fā)神通?
(3) 殘差網(wǎng)絡(luò)結(jié)構(gòu)及其變種。
ResNet文章引用量已經(jīng)過萬了,但是你知道幾十年前的shortcut connection早就已經(jīng)在網(wǎng)絡(luò)結(jié)構(gòu)中使用了嗎?LeCun大神們早就系統(tǒng)性研究過shortcut connection了嗎?早在resnet之前的highway network已經(jīng)訓(xùn)練過上1000層的深層模型了嗎?殘差網(wǎng)絡(luò)的高度和寬度誰更加重要,殘差的極致是什么?殘差網(wǎng)絡(luò)結(jié)構(gòu)還有多少種玩法?
(4) 分組網(wǎng)絡(luò)及其變種。
隨著網(wǎng)絡(luò)的能力越來越強,大家開始追求性價比了,研究表明分組卷積不僅強大,而且高效!分組卷積的起源到底是什么?卷積拆分和分組有什么相似和區(qū)別之處?從Xception到MobileNet真的有變化嗎?多分辨率卷積核通道分組網(wǎng)絡(luò),多尺度通道分組網(wǎng)絡(luò),多精度通道分組網(wǎng)絡(luò),如何各自大顯神通?這里還有很多很多的故事要講。
?
(5) 非正常卷積。
誰說卷積核一定要方方正正,能不能從結(jié)構(gòu)上設(shè)計出具有各種不變性的網(wǎng)絡(luò),且看大神們將來如何玩壞卷積方式,你不想了解一下嗎?
?
(6) 其他。
網(wǎng)絡(luò)寬度更加重要還是深度更加重要,圖像分割模型都有哪些變種?這里只有想不到,沒有看不到!
不多說了,需要的朋友快來吧!
?
總結(jié)
以上是生活随笔為你收集整理的【知识星球】千奇百怪的网络结构板块更新到哪里了?的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 【Python进阶】Python进阶专栏
- 下一篇: 【知识星球】网络结构1000变上线,下半