上一節中講了樸素貝葉斯算法將實例分到后驗概率最大的類。這等價于期望風險最小化。

假設使用0-1損失函數：

L(Y,f(X))={1,0,Y≠f(X)Y=f(X)

上式中的f(x)是分類決策函數， 這時，期望風險函數是：

Rexp(f)=E[L(Y,f(X))]

此期望是對聯合分布P(X,Y) 取的。由此取條件期望

Rexp(f)=EX∑k=1K[L(ck,f(X))]P(ck|X)
為了使期望風險最小化，只需對 X=x逐個極小化：
f(x)=argminy∈Y∑k=1KL(ck,y)P(ck|X=x)=argminy∈Y∑k=1KP(ck≠Y|X=x)=argminy∈Y∑k=1K(1?P(ck=Y|X=x))=argmaxy∈Y∑k=1KP(ck=Y|X=x)
通過以上推導，根據期望風險最小化得到了后驗概率最大化：
f(x)=argmaxckP(ck|X=x)
這就是樸素貝葉斯算法所使用的原理。

總結

以上是生活随笔為你收集整理的机器学习笔记（五）续——朴素贝叶斯算法的后验概率最大化含义的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。