什么是全连接神经网络?
什么是全連接神經(jīng)網(wǎng)絡(luò)?
解釋全連接神經(jīng)網(wǎng)絡(luò)之前我們首先需要了解什么是神經(jīng)網(wǎng)絡(luò)?
??人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network, ANN)簡稱神經(jīng)網(wǎng)絡(luò),可以對一組輸入信號和一組輸出信號之間的關(guān)系進行模擬,是機器學(xué)習(xí)和認(rèn)知科學(xué)領(lǐng)域中一種模仿生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和功能的數(shù)學(xué)模型。用于對函數(shù)進行估計或近似,其靈感來源于動物的中樞神經(jīng)系統(tǒng),特別是大腦。神經(jīng)網(wǎng)絡(luò)由大量的人工神經(jīng)元(或節(jié)點)聯(lián)結(jié)進行計算,大多數(shù)情況下人工神經(jīng)網(wǎng)絡(luò)能在外界信息的基礎(chǔ)上改變內(nèi)部結(jié)構(gòu),是一種自適應(yīng)系統(tǒng)。
那么神經(jīng)網(wǎng)絡(luò)模型中 是怎么輸入和輸出數(shù)據(jù)的呢?
??過程:它在具有n個輸入一個輸出的單一的神經(jīng)元模型的結(jié)構(gòu)中,神經(jīng)元接受來自n個其他神經(jīng)元傳遞過來的輸入(樹突)信號,這些輸入信號通過帶權(quán)重的連接(軸突)進行傳遞,神經(jīng)元收到總輸入值將經(jīng)過激活函數(shù)f處理后產(chǎn)生神經(jīng)元輸出(軸突末梢)。
全連接神經(jīng)網(wǎng)絡(luò)是神經(jīng)網(wǎng)絡(luò)的進一步層次疊加——多層的感知機
??全連接神經(jīng)網(wǎng)絡(luò)(Multi-Layer Perception, MLP)或者叫多層感知機,是一種連接方式較為簡單的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),屬于前饋神經(jīng)網(wǎng)絡(luò)的一種,其主要由輸入層、隱藏層和輸出層構(gòu)成,并且在每個隱藏層中可以有多個神經(jīng)元。 ??◎輸入層僅接收外界輸入,不進行任何函數(shù)處理,所以輸入層的神經(jīng)元個數(shù)往往和輸入的特征數(shù)量相同。
??◎隱藏層和輸出層神經(jīng)元對信號進行加工處理,最終結(jié)果由輸出層神經(jīng)元輸出。而根據(jù)隱藏層的數(shù)量又可以分為單隱藏層MLP和多隱藏層MLP。每個隱藏層的神經(jīng)元數(shù)量是可以變化的,通常沒有一個很好的標(biāo)準(zhǔn)用于確定每層神經(jīng)元的數(shù)量和隱藏層的個數(shù),這也是目前一直測試和探索的。
??隨著網(wǎng)絡(luò)的層數(shù)增加,每一層對于前一層次的抽象表示更深入。在神經(jīng)網(wǎng)絡(luò)中,每一層神經(jīng)元學(xué)習(xí)到的是前一層神經(jīng)元值的更抽象的表示。例如第一個隱藏層學(xué)習(xí)到的是"圖標(biāo)”的特征,第二個隱藏層學(xué)習(xí)到的是由"圖標(biāo)”組成的"圖片”的特征,最后的隱藏層學(xué)習(xí)到的是由"圖片"組成的“視頻”的特征。當(dāng)然層數(shù)增加之后,便有更多的神經(jīng)元則就會有更強的表示能力,同時更容易造成網(wǎng)絡(luò)的過擬合,所以在使用全連接神經(jīng)網(wǎng)絡(luò)時,對模型泛化能力的測試很重要,最好的方式是在訓(xùn)練模型時,使用驗證集來驗證模型的泛化能力,且盡可能地去嘗試多種網(wǎng)絡(luò)結(jié)構(gòu),以尋找更好的模型,當(dāng)然這樣往往需要耗費大量的時間。
??以上是對全連接神經(jīng)網(wǎng)絡(luò)的初步理論認(rèn)識,對于它不同層次模型的建立您可以在本欄目查閱。
總結(jié)
以上是生活随笔為你收集整理的什么是全连接神经网络?的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 51单片机开发入门(5)-定时器/计数器
- 下一篇: 上周刚号召加班,这周立马双休,董明珠把互