上一篇我們主要介紹了一些神經(jīng)網(wǎng)絡(luò)必備的基礎(chǔ)知識，包括 Sigmoid 激活函數(shù)、損失函數(shù)、梯度下降和計算圖。這些知識對我們學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)非常有用！本文我們將開始真正的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)，從一個淺層的神經(jīng)網(wǎng)絡(luò)出發(fā)，詳細(xì)推導(dǎo)其正向傳播和反向傳播完整過程。

神經(jīng)網(wǎng)絡(luò)模型概述

首先，我們來看一個簡單的神經(jīng)網(wǎng)絡(luò)模型：

最簡單的神經(jīng)網(wǎng)絡(luò)模型由輸入層（Input Layer）、隱藏層（Hidden Layer）、輸出層（Output Layer）組成，我們稱之為 2 層神經(jīng)網(wǎng)絡(luò)。隱藏層和輸出層都由個數(shù)不一的神經(jīng)元組成。如上圖所示，輸入層有 3 個輸入：x1、x2、x3，分別代表不同的輸入特征。例如一張圖片所有的像素值（當(dāng)然不止 3 個） 。一般地，輸入層不標(biāo)注 $\bigcirc$，表示沒有神經(jīng)元。該神經(jīng)網(wǎng)絡(luò)模型隱藏層包含了 4 個神經(jīng)元，輸出層只有 1 個神經(jīng)元。

需要特別注意的是，在解決二分類或者預(yù)測問題時，輸出層神經(jīng)元個數(shù)為 1。如果是多分類問題，輸出層就需要多個神經(jīng)元。這里先介紹最簡單的神經(jīng)網(wǎng)絡(luò)模型，多分類問題之后再詳細(xì)介紹。

我在第01課已經(jīng)介紹過單個神經(jīng)元的結(jié)構(gòu)：

單個神經(jīng)元包含參數(shù) W 和 b，分別稱之為權(quán)重系數(shù)（

總結(jié)

以上是生活随笔為你收集整理的第06课：浅层神经网络（NN）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。