李航第六章的BFGS算法
生活随笔
收集整理的這篇文章主要介紹了
李航第六章的BFGS算法
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
沒啥用,在scipy中已經實現了.
參考鏈接如下
https://blog.csdn.net/ACdreamers/article/details/44664941
scipy的bfgs算法如下:
https://docs.scipy.org/doc/scipy/reference/generated/scipy.optimize.fmin_bfgs.html
稍微備注下這一章中最大熵模型的推導:
根據當前每個類別的頻數,來求解整個系統熵最大的數值,順便求解每個類別的概率是多少.
注意,這一章的證明中,雖然有maxmin這種情況,但是這個并不是應用廣義拉格朗日的結果,而是因為P本身就是一個未知數,需要對其進行求偏導,同時因為拉格朗日引入了乘子wi,需要對wi求偏導,才最終導致maxmin的出現,與廣義拉格朗日乘子法無關.廣義拉格朗日乘子法一定是用來處理"不等式"約束時才派上用場的的.
總結
以上是生活随笔為你收集整理的李航第六章的BFGS算法的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: SVC调参总结+调参实例
- 下一篇: 根据权威文献区分梯度上升与梯度下降