凸集 凸函数 凸优化
目錄
?
寫在前面
精簡版概念理解
凸集
凸集的性質
凸函數
凸函數性質
凸優化
為什么要求是凸集呢?
為什么要求是凸函數呢?
判斷是否為凸函數的簡單辦法
為什么區分凸優化和非凸優化
非凸優化問題如何轉為凸優化問題
詳細版概念理解
寫在前面
文章分為精簡版和詳細版概念理解,若只是想簡單了解凸集、凸函數和凸優化是什么,建議看精簡版,若想知其所以然,深入探究,請跳轉到詳細版概念理解~
精簡版概念理解
凸集
在點集拓撲學與歐幾里得空間中,凸集(Convex set)是一個點集合,其中每兩點之間的直線點都落在該點集合中。如圖所示
任意一組凸集的交集仍然是一個凸集。
常見的凸集:
- n維實數空間;
- 一些范數約束形式的集合
- 仿射子空間
- 凸集的交集
- n維半正定矩陣集
凸集的性質
凸函數
是凸集,則函數為凸函數。
若對所有的,滿足:
,則該函數為強凸函數。
當對于,不等式嚴格不等。當是凸函數時,是凹函數。
該定義可以推廣到n個元素。
?
其幾何意義表示為函數任意兩點連線上的值大于對應自變量處的函數值,如圖所示:
常見的凸函數:
- 指數函數族
- 非負對數函數
- 仿射函數
- 二次函數
- 常見的范數函數
- 凸函數非負加權的和
凸函數性質
是凸集,函數為凸函數,則也都是M上的凸函數。
凸優化
數學中的最優化問題一般表述是求取,使,其中是n維向量,是的可行域,是上的實值函數。
凸優化問題是指:是閉合的凸集且是上的凸函數的最優化問題,兩個條件缺一不可。
常見的凸優化問題:
- 線性規劃(LP)
- 二次規劃(QP)
- 二次約束的二次規劃(QCQP)
- 半正定規劃(SDP)
為什么要求是凸集呢?
答:如果是如圖中的情況,可行域不是凸集,會導致局部最優。
為什么要求是凸函數呢?
答:如果是如圖中的情況,則無法獲取全局最優解。
判斷是否為凸函數的簡單辦法
- 目標函數如果不是凸函數,則不是凸優化問題
- 決策變量中包含離散變量(0-1變量或證書變量),則不是凸優化問題。
- 約束條件寫成時,如果不是凸函數,則不是凸優化問題。
為什么區分凸優化和非凸優化
答:如果是凸優化問題,則局部最優解同時也是全局最優解,因為凸優化問題在一定意義上更容易解決。
非凸優化問題如何轉為凸優化問題
?
詳細版概念理解
最優化理論入門(一) 凸集與凸函數 - 知乎 (zhihu.com)
凸優化和非凸優化_kebu12345678的博客-CSDN博客_非凸優化
?
?
?
總結
以上是生活随笔為你收集整理的凸集 凸函数 凸优化的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 安卓第十趴
- 下一篇: 【Python】特征选择方法