池化層 pool

池化層，可以降低數(shù)據(jù)體的空間尺寸，這樣的話就能減少網(wǎng)絡(luò)中參數(shù)的數(shù)量，使得計算資源耗費(fèi)變少，也能有效控制過擬合。

最常見的形式是池化層使用尺寸 $2\times 2$ 的濾波器，以步長為 $2$ 來對每個深度切片進(jìn)行降采樣，將其中 $75\%$ 的激活信息都丟掉。

平均池化歷史上比較常用，但是現(xiàn)在已經(jīng)很少使用了，因?yàn)閷?shí)踐證明，最大池化（MAX操作）的效果比平均池化要好：

$2\times 2$ 的最大池化：

反向傳播

池化層中，$max(x,y)$ 函數(shù)的反向傳播可以簡單理解為將梯度只沿最大的數(shù)回傳。因此，在向前傳播經(jīng)過池化層的時候，通常會把池中最大元素的索引記錄下來（有時這個也叫作道岔（switches）），這樣在反向傳播的時候梯度的路由就很高效。

總結(jié)

以上是生活随笔為你收集整理的池化层 pool的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。