最小二乘法的一般形式

$f_i$為某一時刻的誤差 比如預測值與預測值的差值

將殘差寫成向量的形式

和上面的$F$相比 每個$f$計算的還是某一時刻的誤差 將全部的誤差求平方再求和 就相當于它的轉(zhuǎn)置乘以它本身 即：
$$F(X)=f^T(X)f(X)$$
所以有如下等式

則它的雅克比矩陣為：

這里每個雅克比矩陣的維度都為$1\times n$

最小二乘泰勒展開

單項展開

整體展開

上述步驟更具體一些
第一行后面到第二行推導：
$$\frac{1}{2}{f}^{T}f+f^{T}J\Delta x+(J\Delta x{)}^{T}f+(J\Delta x{)}^{T}J\Delta x=\frac{1}{2}{f}^{T}f+f^{T}J\Delta x+\Delta x^T{J}^{T}f+\Delta x^T{J}^{T}J\Delta x$$
這里進行一下維度分析：
f為某一時刻確定的誤差值 所以是標量
$$f:1\times 1$$
J參照上面的那個J的維度分析：
$$J:1\times n$$
$\Delta x$為增加量 這里為列向量
$$\Delta x:n\times 1$$
所以可得以下結(jié)論：

$f$為標量

$J\Delta x$為標量

$J^T\Delta x^T$為標量

所以有：
$$f^{T}J\Delta x=(J\Delta x{)}^{T}f=\Delta x^T{J}^{T}f$$
維度分析對于矩陣運算很重要

總結(jié)

以上是生活随笔為你收集整理的【矩阵基础与维度分析】【公式细节推导】矩阵非线性最小二乘法泰勒展开的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。