1.1神經網絡的基本概念

神經網絡（neural network，NN），是一種模仿生物神經網絡的結構和功能的數學模型或計算模型。神經網絡由大量的人工神經元聯結進行計算。

• 前饋神經網絡基礎
• 卷積神經網絡
• 卷積神經網絡的文本分類

3 前饋神經網絡基礎

3.1 神經元

• 一個神經元通常具有多個樹突，主要用來接受傳入信息；而軸突只有一條，軸突尾端有許多軸突末梢可以給其他多個神經元傳遞信息。軸突末梢跟其他神經元的樹突產生連接，從而傳遞信號。這個連接的位置在生物學上叫做“突觸”。
  

3.2 前饋神經網絡結構

• 神經元與前饋神經網絡的特點：連接權重；加法器；激活函數
• 前饋神經網路由輸入層，隱藏層和輸出層組成。
  

4 卷積神經網絡

4.1 卷積神經網絡的構成

• 卷積、池化、ReLU、批歸一化、Dropout
  
• 卷積操作示意圖
  
• 卷積操作步幅：輸入圖像和輸出圖像的關系
  

4.2 池化

池化是使用某一位的相鄰輸出的總體統計特征來替代網絡在該位置的輸出

5 卷積神經網絡的文本分類

5.1 文字轉化為圖片

• 卷積神經網絡在處理文本數據時，可以將文字看成一副圖片，如下圖所示：
  

5.2 TextCNN的網絡結構

5.3TextCNN的原理圖

• Embedding：第一層時圖中最左邊的7乘5的句子矩陣，每行是詞向量，維度=5，這個可以類比為圖像中的原始像素點。
• Convolution：然后經過kernel_sizes=（2，3，4）的一維卷積，每個kernel_sizes有兩個輸出channel。
• MaxPooling：第三層是一個1-max pooling層，這樣不同長度矩陣經過pooling層之后都能變成頂層的表示。
• Fullconnection and Softmax：最后接一層全連接的softmax層，輸出每個類別的概率。
  

與50位技術專家面對面20年技術見證，附贈技術全景圖

總結

以上是生活随笔為你收集整理的自然语言处理之神经网络基础（四）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。