這里寫目錄標題

• 原理
• 代碼實現

原理

最小二乘法適用于對處理的一堆數據，不必精確的經過每一點，而是根據圖像到每個數據點的距離和最小確定函數。需要注意的是，最小二乘是對全局進行擬合優化，對噪聲比較敏感，所以如果有噪聲比較大的觀測值會影響擬合結果，此時建議用RANSAC算法擬合。

最小二乘法逼近的最簡單的例子是根據一組觀測值對(x1,y1),(x2,y2)…(xn,yn)來擬合一條直線。

對于$y=a_0+a_{1}x+e$，在一組觀測數據中擬合最好的模型，即使得殘差$e$的平方和最小。分別對$a_0、a_1$求偏導，可得：
$$\begin{array}{c}\sum _{i=1}^n{a}_0+\sum _{i=1}^n{x}_i{a}_1=\sum _{i=1}^n{y}_i\\ \sum _{i=1}^n{x}_i{a}_0+\sum _{i=1}^n{x}_i^2{a}_1=\sum _{i=1}^n{x}_i{y}_i\end{array}$$
則：
$$a_1=\frac{n{\sum }_{i=1}^n{x}_i{y}_i?{\sum }_{i=1}^n{x}_i{\sum }_{i=1}^n{y}_i}{n{\sum }_{i=1}^n{x}_i^2?({\sum }_{i=1}^n{x}_i{)}^2}$$
$$a_0=\text{yˉ?}?a_1\text{xˉ}$$
對n次多項式同樣適用。

代碼實現

def leastsq_fit(points:np.ndarray):points_size = len(points)points_sum = np.sum(points, axis=0)sum_xy = np.sum(points[:, 0] * points[:, 1], axis=0)sum_x = points_sum[0]sum_y = points_sum[1]sum_sqare_x = np.sum(points ** 2, axis=0)[0]average_x = sum_x / points_sizeaverage_y = sum_y / points_sizek = (points_size*sum_xy - sum_x*sum_y)/(points_size*sum_sqare_x - sum_x*sum_x)b = average_y - average_x*kbest_model = np.zeros((2, 1), dtype=np.float32)best_model[0, 0] = bbest_model[1, 0] = kreturn best_model

矩陣形式參考我另外的博客鏈接1，鏈接2

def leastsq_mutifunc(x, y, m):"""多項式最小二乘法實現, 矩陣形式:param x:輸入:param y:目標輸出:param m:多項式階數:return:多項式系數"""x = np.array(x)y = np.array(y)assert m <= x.shape[0], f"the number of m({m}) need less than x's size({x.shape[0]})"assert x.shape[0] == y.shape[0], f"the size of x({x.shape[0]}) must equal to y's size({y.shape[0]}"x_mat = np.zeros((x.shape[0], m+1))for i in range(x.shape[0]):x_mat_h = np.zeros((1, m+1))for j in range(m+1):x_mat_h[0][j] = x[i] ** (m-j)x_mat[i] = x_mat_htheta = np.dot(np.dot(np.linalg.inv(np.dot(x_mat.T, x_mat)), x_mat.T), y.T)return theta

參考鏈接1
參考鏈接2
參考鏈接3

總結

以上是生活随笔為你收集整理的python:最小二乘法拟合原理及代码实现的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。