Gradient Boost Decision Tree(GBDT)中损失函数为什么是对数形式
生活随笔
收集整理的這篇文章主要介紹了
Gradient Boost Decision Tree(GBDT)中损失函数为什么是对数形式
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
由于最近要經(jīng)常用到XGBOOST的包,不免對(duì)相關(guān)的GBDT的原理又重新學(xué)習(xí)了一遍,
發(fā)現(xiàn)其中在考慮損失函數(shù)的時(shí)候,是以對(duì)數(shù)log進(jìn)行度量的,囿于誤差平方和函數(shù)的印象
那么為什么是對(duì)數(shù)呢?可能是下面的原因:
【通俗的解釋】
對(duì)數(shù)損失是用于最大似然估計(jì)的。
一組參數(shù)在一堆數(shù)據(jù)下的似然值,等于每一條數(shù)據(jù)的概率之積。
而損失函數(shù)一般是每條數(shù)據(jù)的損失之和,為了把積變?yōu)楹?#xff0c;就取了對(duì)數(shù)。
再加個(gè)負(fù)號(hào)是為了讓最大似然值和最小損失對(duì)應(yīng)起來(lái)。
【專業(yè)的解釋】
鏈接:http://www.zhihu.com/question/27126057
注:似乎很有道理,大家如果覺(jué)得不對(duì),歡迎留言討論。
轉(zhuǎn)載于:https://www.cnblogs.com/haobang008/p/5921157.html
總結(jié)
以上是生活随笔為你收集整理的Gradient Boost Decision Tree(GBDT)中损失函数为什么是对数形式的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: jquey(判断文本框输入的网址链接是否
- 下一篇: 制作简单的2D物理引擎(零)