AI理论知识整理(6)-最大似然法
生活随笔
收集整理的這篇文章主要介紹了
AI理论知识整理(6)-最大似然法
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
假設 有N個數據點,服從某種分布Pr(x;θ)Pr(x;\theta)Pr(x;θ),想找到一組參數θ\thetaθ,使得生成這 些數據點的概率最大,而 不是像最小二乘法那樣更好地擬合樣本數據點。
這個概率是
∏i=1nPr(x;θ)\prod_{i=1}^{n} Pr(x;\theta) i=1∏n?Pr(x;θ)
稱為似然函數
由于單點概率小,連乘后數據有可能超過符點數的最小值。
取其對數
∑i=1nlogPr(xi;θ)\sum_{i=1}^{n} log Pr(x_{i};\theta)i=1∑n?logPr(xi?;θ)
最后,求導,使得參數 θ\thetaθ最大
提示:
求和符號:
∑i=1n\sum_{i=1}^{n}i=1∑n?
連乘符號:
\prod_{i=1}^{n}∏i=1n\prod_{i=1}^{n}i=1∏n?
總結
以上是生活随笔為你收集整理的AI理论知识整理(6)-最大似然法的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: php连接excel表格数据类型,TP5
- 下一篇: wxWidgets随笔(4)-hello