神经网络迭代次数与Lambert定律
由Lambert定律
Iv出射光強度,I0入射光強度,dl薄層厚度。強度為Iv的入射光,透過薄層樣品后,光強的減弱(-dl)與Iv及薄層的厚度dl成正比。*
由此構(gòu)造一個迭代次數(shù)的表達式
其中n為迭代次數(shù),表明初始迭代次數(shù)n,經(jīng)過厚度為dl的神經(jīng)網(wǎng)絡(luò)后,迭代次數(shù)的變化(-dn)與n及網(wǎng)絡(luò)的等效厚度dl成正比。
積分
在《以5‰的概率計算一個網(wǎng)絡(luò)準確率達到99.9%的時間和迭代次數(shù)---實例三分類mnist 3,4,5》中得到一個估算神經(jīng)網(wǎng)絡(luò)迭代次數(shù)的經(jīng)驗公式
其中δ是網(wǎng)絡(luò)的收斂標準,n0是收斂迭代次數(shù),nv是初始迭代次數(shù),取決與系統(tǒng)屬性,k是常數(shù)。這個表達式很容易的化簡成
比較1式和2式,可以得出只要將-lnδ理解成是薄層厚度,迭代次數(shù)就可以理解成是光線強度,則神經(jīng)網(wǎng)絡(luò)收斂過程就是對光線透過厚度為-lnδ的薄層的模擬。
比如上文中的網(wǎng)絡(luò),用一個3*3的卷積核分類mnist的3,4,5
?
這個網(wǎng)絡(luò)的迭代次數(shù)的經(jīng)驗公式
其中nv=3879.73943,k=0.31488
化簡
?
出射光強度nv和厚度-lnδ已知,計算入射光強度n0
得到數(shù)據(jù)
| δ | n0實測 | n0計算值 | 實測值/計算值 | -lnδ |
| 0.1 | 9887.53 | 8010.92693 | 1.234255422 | 2.302587 |
| 0.01 | 16477.395 | 16541.04649 | 0.996151907 | 4.605173 |
| 0.001 | 33735.23 | 34154.1274 | 0.987735087 | 6.90776 |
| 9.00E-04 | 33855.875 | 35306.22807 | 0.958920758 | 7.013121 |
| 8.00E-04 | 37486.515 | 36640.23407 | 1.023097039 | 7.130904 |
| 7.00E-04 | 37743.51 | 38213.67063 | 0.987696533 | 7.264435 |
| 6.00E-04 | 38853.775 | 40114.27757 | 0.968577209 | 7.418586 |
| 5.00E-04 | 42011.69 | 42484.60481 | 0.98886856 | 7.600908 |
| 4.00E-04 | 46537.22 | 45577.0937 | 1.021065983 | 7.824051 |
| 3.00E-04 | 50546.635 | 49898.48548 | 1.012989363 | 8.111734 |
| 2.00E-04 | 59306.3 | 56693.72817 | 1.046082202 | 8.517199 |
| 1.00E-04 | 72432.405 | 70521.80278 | 1.027092362 | 9.210347 |
| 9.00E-05 | 74827.21 | 72900.67242 | 1.026426884 | 9.315707 |
| 8.00E-05 | 76215 | 75655.14209 | 1.00740013 | 9.43349 |
| 7.00E-05 | 82560.155 | 78903.99049 | 1.046336877 | 9.567022 |
| 6.00E-05 | 81525.21 | 82828.38378 | 0.98426658 | 9.721173 |
| 5.00E-05 | 85679.71 | 87722.66048 | 0.976711257 | 9.903494 |
| 4.00E-05 | 94710.29 | 94108.06419 | 1.006399301 | 10.12664 |
| 3.00E-05 | 102116.6 | 103030.9195 | 0.991125775 | 10.41432 |
| 2.00E-05 | 111092.705 | 117061.8084 | 0.94900896 | 10.81979 |
| 1.00E-05 | 145284.115 | 145614.1628 | 0.997733409 | 11.51293 |
| 1.00E-06 | 290645.97 | 300665.6605 | 0.966674976 | 13.81552 |
| 1.00E-07 | 572369.51 | 620817.6296 | 0.921960786 | 16.11811 |
要使出射光強度nv在3879.73943保持不變,薄層的厚度-lnδ越大,與之對應(yīng)的入射光強度n0需要越強。
?
*量子化學(xué)(徐光憲,上中下三冊)p-344
總結(jié)
以上是生活随笔為你收集整理的神经网络迭代次数与Lambert定律的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 收敛标准对卷积核数量最优值的影响
- 下一篇: 基金收益率高买好还是低买好 教你选择的