第05课:神经网络基础知识
在第01課深度學習概述中,我們介紹了神經網絡的基本結構,介紹了神經網絡的基本單元組成是神經元。如何構建神經網絡,如何訓練、優化神經網絡,這其中包含了許多數學原理,需要具備一些基本知識。本課,我將重點羅列并詳細介紹神經網絡必備的基礎知識。掌握這些基礎知識,你就可以很輕松地為接下來的課程做準備。
由邏輯回歸出發
邏輯回歸(Logistic Regression)是機器學習一個最基本也是最常用的算法模型。與線性回歸不同的是,邏輯回歸主要用于對樣本進行分類。因此,邏輯回歸的輸出是離散值。對于二分類問題,通常我們令正類輸出為 1,負類輸出為 0。例如一個心臟病預測的問題:根據患者的年齡、血壓、體重等信息,來預測患者是否會有心臟病,這就是典型的邏輯回歸問題。
二元分類,一般使用 $\hat y=P(y|x)$ 來表示預測輸出為 1 的概率,則 $1-P(y|x)$ 表示預測輸出為 0 的概率。概率值取值范圍在 [0, 1] 之間。通常,$P(y|x)\geq0.5$,則預測為正類1;若$P(y|x)<0.5$,則預測為負類0。
$P(y|x)\geq0.5$:正類
$P(y|x)<0.5$:負類
根據線性感知機的思想,引入參數 w 和 b,我們可以寫出邏輯回歸的線性部分為:
$$z=wx+b$$
其中,x 的維度是 $(n_x, m)$,w 的維度是 $(1, n_x)$,b 是一個常量。$n_x$ 表示輸入 x 的特征個數,例如一張圖片所有的像素點,m 為訓練樣本個數,z 是線性輸出。
但
與50位技術專家面對面20年技術見證,附贈技術全景圖總結
以上是生活随笔為你收集整理的第05课:神经网络基础知识的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 从socket中读取一行语句
- 下一篇: 程序员与代码之间的搞笑日常,笑的人肚子痛