Jensen不等式简介
生活随笔
收集整理的這篇文章主要介紹了
Jensen不等式简介
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
Jensen不等式在機器學習領域的應用廣泛,下面我們來對它做一下總結。
我們知道,按照凸優化的定義,若f為凸函數有:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
此處,。利用歸納法,我們可以很容易將其擴展到多維情況:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?
這里且。有趣的是,上式中如果k無限大,我們可以將上式轉為積分形式:我們設函數p(x) >= 0,且,用p(x)代替,我們有:
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?? ? ? ?
那么如果x是隨機變量,p(x)是概率密度函數呢,上式就變成了。
參考文獻:
[1]?Convex Optimization
? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ??
?
總結
以上是生活随笔為你收集整理的Jensen不等式简介的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 证明连续随机变量形式Jensen不等式
- 下一篇: 第1章 数据库系统概论-单元测验-数据库