神经网络谐振子模型的一组数据
因為神經網絡的迭代次數和收斂誤差的數學規律符合諧振子的力學模型,
本次實驗統計了11個網絡的振動函數,并比較參數之間的可能關系。
這11個網絡包括6個二分類網絡(0,1),(0,2),(0,3) ,(1,2) ,(1,3) ,(2,3),包括4個三分類網絡(0,1,2), (0,1,3), (0,2,3), (1,2,3),和1個4分類網絡(0,1,2,3).
網絡結構為81*30 例如
(0,1)---81*30*2---(1,0)(0,1),
用間隔取點的辦法將mnist圖片化成9*9,每個收斂誤差統計199次取平均值。
得到迭代次數和收斂誤差的數據如下表
| 0*1 | 0*2 | 0*3 | 1*2 | 1*3 | 2*3 | 0*1*2 | 0*1*3 | 0*2*3 | 1*2*3 | 0*1*2*3 | |
| δ | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n | 迭代次數n |
| 0.5 | 8.462312 | 10.13065 | 9.773869 | 9.879397 | 9.643216 | 8.668342 | 164.8141 | 158.2764 | 200.3166 | 190.8844 | 456.3216 |
| 0.4 | 150.6281 | 212.6834 | 216.5729 | 207.397 | 218.4975 | 260.9849 | 496.6583 | 496.1508 | 610.7839 | 726.3467 | 1040.678 |
| 0.3 | 194.9899 | 266.5126 | 276.7487 | 285.1508 | 294.2362 | 337.8593 | 591.593 | 588.7387 | 702.191 | 806.2814 | 1182.774 |
| 0.2 | 233.9749 | 325.2965 | 336.9497 | 369.3518 | 355.8241 | 411.5377 | 921.005 | 829.2261 | 846.397 | 951.407 | 1455.598 |
| 0.1 | 309.2563 | 409.7487 | 408.005 | 406.7337 | 421.9799 | 556.5678 | 1143.593 | 1155.266 | 979.7839 | 1185.156 | 2142.136 |
| 0.01 | 645.9347 | 696.0854 | 695.3668 | 707.0101 | 843.6884 | 892 | 2370.593 | 2264.975 | 2298.935 | 2516.236 | 4770.412 |
| 0.001 | 1996.291 | 1433.688 | 1418.322 | 1448.925 | 1714.603 | 1716.211 | 7059.141 | 5828.784 | 7264.342 | 7296.955 | 18866.53 |
| 9.00E-04 | 2091.08 | 1458.764 | 1451.518 | 1491.427 | 1759.859 | 1737.357 | 7362.618 | 5947.784 | 7815.04 | 7839.286 | 21428.08 |
| 8.00E-04 | 2182.307 | 1483.276 | 1529.613 | 1560.101 | 1816.241 | 1749.93 | 7808.04 | 6321.503 | 8434.593 | 9149.588 | 23282.44 |
| 7.00E-04 | 2338.121 | 1563.005 | 1642.508 | 1650.05 | 1949.166 | 1846.196 | 8290.241 | 7309.342 | 9021.347 | 10283.07 | 28046.66 |
| 6.00E-04 | 2605.141 | 1733.869 | 1789.859 | 1752.176 | 2162.673 | 1934.251 | 9253.975 | 9430.809 | 9884.96 | 12985.36 | 31793.99 |
| 5.00E-04 | 2869.814 | 1993.98 | 2000.186 | 1894.94 | 2496.533 | 2140.879 | 10762.55 | 11225.61 | 10972.12 | 16789.59 | 38517.96 |
| 4.00E-04 | 3081.211 | 2208.925 | 2177 | 2031.462 | 2864.111 | 2363.869 | 12427.5 | 12069.93 | 11910.51 | 21025.54 | 44542.6 |
| 3.00E-04 | 4256.995 | 2356.251 | 2494.126 | 2426.146 | 3316.07 | 2580.412 | 13535.73 | 14839.63 | 13613.33 | 27592.02 | 55720.47 |
| 2.00E-04 | 5142.191 | 2725.266 | 3120.744 | 3230.779 | 3846.08 | 2877.754 | 17468.02 | 17584.72 | 16979.26 | 37994.45 | 74013.17 |
| 1.00E-04 | 5310.492 | 3214.693 | 3946.166 | 4738.769 | 5114.543 | 5359.995 | 28103.91 | 25432.88 | 27197.3 | 56876.2 | 108529.5 |
| 9.00E-05 | 5462.754 | 3397.618 | 4086.794 | 4853.392 | 5206.975 | 6311.417 | 29526.75 | 27288.4 | 28802.51 | 61452.39 | 114898.4 |
| 8.00E-05 | 5766.985 | 3583.648 | 4457.548 | 5011.905 | 5467.472 | 7791.176 | 32919.19 | 30349.72 | 29758.71 | 63452.6 | 123078 |
| 7.00E-05 | 6182.633 | 3772.854 | 4815.191 | 5117.347 | 5905.925 | 9549.377 | 34403.51 | 33490.43 | 31074.94 | 70890.41 | 131857.9 |
| 6.00E-05 | 7654.784 | 3896.844 | 5483.709 | 5150.573 | 6946.96 | 11267.6 | 38201.33 | 40486.82 | 32153.37 | 76439.31 | 140706.7 |
| 5.00E-05 | 9876.151 | 4230.693 | 6168.131 | 5165 | 7801.704 | 13938.6 | 44168.34 | 47716.63 | 36622.55 | 84410 | 155342.4 |
| 4.00E-05 | 11750.04 | 4576.905 | 6963.075 | 5188.518 | 7869 | 16208.04 | 51162.21 | 60704.67 | 40842.37 | 94827.37 | 172341.1 |
| 3.00E-05 | 14763.56 | 5158.714 | 8309.015 | 5567.422 | 7869 | 20161.36 | 58969.32 | 77707.27 | 45290.57 | 108968.3 | 192418.1 |
| 2.00E-05 | 15449.49 | 6401.789 | 10311.89 | 9646.95 | 11381.92 | 25198.32 | 76137.42 | 97190.13 | 51153.15 | 132462.8 | 228456.4 |
| 1.00E-05 | 23578.27 | 8361.025 | 18484.21 | 11854.51 | 41164.54* | 32546.73 | 105861.6 | 119533.5 | 63968.84 | 166149.3 | 297428.5 |
*(1,3)擬合未用最后一組數據
擬合得到公式如下表
| a | b | ||||||||||||||||
| 0*1*2 | 244.04786199841115*δ**-0.5138085835355587 | 221 | 0.905738 | 0.52 | 1.019608 | 0-1 | 53.68789044513347*δ**-0.5211103140653743 | ||||||||||
| 0.9673853175038604?? ******? 決定系數 r**2 | 0.972291301837131?? ******? 決定系數 r**2 | ||||||||||||||||
| 0*1*3 | 219.80765675440065*δ**-0.5276413930070832 | 209 | 0.954338 | 0.52 | 0.986717 | 0-2 | 87.76942747684512*δ**-0.39854409481325337 | ||||||||||
| 0.9004841463920958?? ******? 決定系數 r**2 | ? | 0.9900879139619467?? ******? 決定系數 r**2 | |||||||||||||||
| 0*2*3 | 293.83381573745544*δ**-0.47987896097400473 | 233 | 0.795222 | 0.49 | 1.022965 | 0-3 | 75.27988416824941*δ**-0.4426510376008596 | ||||||||||
| 0.9808161477866256?? ******? 決定系數 r**2 | 0.8962012436362272?? ******? 決定系數 r**2 | ||||||||||||||||
| 1*2*3 | 254.38569142577177*δ**-0.5673390045550346 | 233 | 0.917323 | 0.49 | 0.875 | 1*2 | 81.85839683337123*δ**-0.42607725641955485 | ||||||||||
| 0.9655787584421318?? ******? 決定系數 r**2 | 0.9677366838033825?? ******? 決定系數 r**2 | ||||||||||||||||
| ? | |||||||||||||||||
| 0*1*2*3 | 473.60757169110525*δ**-0.5759381653902649 | 448 | 0.947146 | 0.52 | 0.904348 | 1*3 | 81.54683073729284*δ**-0.45138529929592464 | ||||||||||
| 0.9663793746091709?? ******? 決定系數 r**2 | 0.9874891683517418?? ******? 決定系數 r**2 | ||||||||||||||||
| 2*3 | 71.19988912815526*δ**-0.4980878086360749 | ||||||||||||||||
| 0.8200219120333657?? ******? 決定系數 r**2 | |||||||||||||||||
可以把一個多分類網絡分成多個二分類網絡,比較發現多分類網絡的參數a至少大于多個二分類網絡的參數a的和
比如三分類網絡
(0,1,2)---81*30*3---(1,0,0)(0,1,0)(0,0,1)
可以分成三個二分類網絡
(0,1)---81*30*2---(1,0)(0,1)
(0,2)---81*30*2---(1,0)(0,1)
(1,2)---81*30*2---(1,0)(0,1)
而b的絕對值約等于對應多個二分類網絡b的絕對值的最大值
如
所以可以得到一個經驗公式
一個多分類網絡的參數a至少大于多個二分類網絡的參數a的和,參數b的絕對值約等于對應多個二分類網絡b的絕對值的最大值。
總結
以上是生活随笔為你收集整理的神经网络谐振子模型的一组数据的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 奇亚籽是什么东西?
- 下一篇: 一个训练集未知的神经网络