? 上一篇文章介紹了修正牛頓法，修正牛頓法的缺點是收斂速度一般，所以為了使算法既不使用Hess陣，也要保證它的收斂速度，本文介紹共軛梯度法。共軛梯度法有超線性的收斂速度，算法結構簡單，容易編程，并且不用計算Hess陣的優點。下面介紹共軛梯度法的算法步驟。

?步0：確定精度e=（0~1），給定初始點x0，計算g0=f(x0)，k=0

步1：若||gk||<=e，停止運算，輸出xk作為最優解

步2：計算搜索方向dk：

若k=0，dk=-gk

若k>=1,dk= -gk+*? ? ? ?其中? ?

?

步3：用Armijo精確線搜索技術確定搜索步長，具體步驟上一篇文章已經詳細介紹。這里不再贅述。算了，還是寫吧：

設置初始參數?，=(0~1),=(0~0.5)

步長k=^mk，m的值從0開始

若滿足不等式f(xk+?^m*dk)<=f(xk)+*^m*gk'dk

則 mk=m，步長?k=^mk，若不滿足上式，則m=m+1，直到滿足上述不等式為止

步4：令Xk+1=xk+?k*dk,然后計算gk=f(xk+1)，k=k+1,轉步1

?代碼實現：

1.共軛梯度函數

function [x,val,k]=frcg(fun,gfun,x0) %功能：用共軛梯度法求無約束問題 mini f(x) %輸入：fun,gfun分別是目標函數和梯度，x0是初始點 %輸出：x,val分別是近似最優點和最優值，k表示迭代次數 k=0; maxk=5000; rho=0.6; sigma=0.4; e=1e-5;%精度 n=length(x0); while(k<maxk)g=feval(gfun,x0);%求梯度itern=k-(n+1)*floor(k/(n+1));%用于重新開始itern=itern+1;%計算搜索方向if(itern==1)d=-g;elsebeta=(g'*g)/(g0'*g0);d=-g+beta*d0;gd=g'*d; %當搜索方向不是下降方向時，插入負梯度方向作為搜索方向if(gd>=0.0)d=-g;endendif(norm(g)<=e) ,break;end m=0; mk=0; while(m<20)if(feval(fun,x0+rho^m*d)<feval(fun,x0)+sigma*rho^m*g'*d);mk=m;break;endm=m+1; endx0=x0+d*rho^mk;val=feval(fun,x0);g0=g;d0=d;k=k+1; end x=x0; val=feval(fun,x); end

2.fun函數

function f= fun(x) %目標函數 f=100*(x(1)^2-x(2))^2+(x(1)-1)^2; end

3.gfun函數

function g=gfun(x) %目標函數的梯度 g=[400*x(1)*(x(1)^2-x(2))+2*(x(1)-1),-200*(x(1)^2-x(2))]'; end

4.主函數

%這個問題的精確值是x=(1,1)',f(x)=0; clear all clc x0=[-1.2 1]'; [x,val,k]=frcg('fun','gfun',x0); disp('迭代次數:k=') disp(k) disp(['最優解：x = ']) disp(x) disp(['此時: f(x) = ',num2str(val)])

5.運行結果

?共軛梯度法通常在迭代n步之后，需要重新取負梯度方向作為搜索方向，因為n步迭代之后共軛梯度法產生的搜索搜索方向一般都不是正確的下降搜索方向，所以在n>m時的第m步時通常會插入負梯度方向作為搜索方向。

總結

以上是生活随笔為你收集整理的共轭梯度法及其matlab程序的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。