LM算法是一種迭代求函數極值的算法，理解該算法首先要明白牛頓法求極值與梯度法求極值，LM算法綜合了這兩種算法的特點。

前面已經介紹了牛頓法求極值，最后高斯牛頓法求極值的遞推公式為：

其中

是多維向量的 矩陣， 是多維向量的一階梯度。

梯度法求極值遞推公式為：

其中

是梯度下降的步長， 是多維向量的一階梯度。

算法公式為：

可以看出該公式在高斯牛頓公式

上加一個調節因子 ，其中 是步長， 是單位矩陣（因為 是矩陣，所以這里要用矩陣形式表示步長）。

算法的特點：

當下降太快時使用較小的

，使整個公式接近高斯牛頓法；

當下降太慢時使用較大的

，使整個公式接近梯度法。

總結

以上是生活随笔為你收集整理的梯度算法求步长的公式_LM（Levenberg-Marquarelt）算法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。