PSO-LSSVM算法及其MATLAB代码
挺完整的一篇博客,這里轉(zhuǎn)載記錄一下。
原文鏈接:PSO-LSSVM算法及其MATLAB代碼
一、PSO
1.概念
粒子群優(yōu)化算法(PSO:Particle swarm optimization)是一種進(jìn)化計算技術(shù)。它的基本思想:通過群體中個體之間的協(xié)作和信息共享來尋找最優(yōu)解。
2.算法的原理和實現(xiàn)步驟
2.1算法原理
PSO初始化為一群隨機(jī)粒子(隨機(jī)解),然后通過迭代找到最優(yōu)解。在每一次的迭代中,粒子通過跟蹤兩個“極值”(pbest,gbest)來更新自己。在找到這兩個最優(yōu)值后,粒子通過下面的公式來更新自己的速度和位置。
PSO算法的主要公式2.2實現(xiàn)步驟
1)初始化一群微粒(群體規(guī)模為N),包括隨機(jī)位置和速度;
2)評價每個粒子的初始適應(yīng)值;
3)將初始適應(yīng)值作為當(dāng)前每個粒子的最優(yōu)值,并記錄當(dāng)前的位置作為局部最優(yōu)位置;
4)將最佳初始適應(yīng)值作為當(dāng)前全局最優(yōu)值,并記錄當(dāng)前位置;
5)依據(jù)上文提到的計算速度和位置公式進(jìn)行計算(要注意最大速度限幅處理);
6)比較當(dāng)前適應(yīng)值與之前的適應(yīng)值,如果更優(yōu)則進(jìn)行更新;
7)找到當(dāng)前粒子群的全局最優(yōu);
8)重復(fù)5-7步直到達(dá)到最小誤差或者達(dá)到最大迭代次數(shù);
9)輸出。
3.算法的優(yōu)缺點(diǎn)
3.1優(yōu)點(diǎn):
1)需要調(diào)整的參數(shù)少,原理簡單,容易實現(xiàn);
2)協(xié)同搜索,同時利用個體局部信息和群體全局信息進(jìn)行指導(dǎo)搜索;
3)收斂速度快;
4)更容易飛躍局部最優(yōu)信息。
3.2缺點(diǎn):
1)算法局部搜索能力較差,搜索精度不高;
2)算法容易陷入局部最優(yōu),無法獲取全局最優(yōu)近似解。
二、LSSVM(最小二乘支持向量機(jī))
1.LSSVM介紹
最小二乘支持向量機(jī)是支持向量機(jī)的一種改進(jìn),它是將傳統(tǒng)支持向量機(jī)中的不等式約束改為等式約束,且將誤差平方和(SumSquaresError)損失函數(shù)作為訓(xùn)練集的經(jīng)驗損失,這樣就把解二次規(guī)劃問題轉(zhuǎn)化為求解線性方程組問題,提高求解問題的速度和收斂精度。
2.最小二乘支持向量機(jī)MATLAB工具箱
最小二乘支持向量機(jī)MATLAB工具箱下載地址見參考文獻(xiàn)[4],工具箱用于解決分類問題主要用到3個函數(shù),trainlssvm函數(shù)用來訓(xùn)練建立模型,simlssvm函數(shù)用于預(yù)估模型,plotlssvm函數(shù)是工具箱的專用繪圖函數(shù)。
LSSVM要求調(diào)整的參數(shù)有兩個:gam和sig2。其中g(shù)am是正則化參數(shù),決定了適應(yīng)誤差的最小化和平滑程度,sig2是RBF函數(shù)的參數(shù)。type有兩種類型,一種是classfication,用于分類,一種是function estimation,用于函數(shù)回歸。
三、PSO優(yōu)化LSSVM實現(xiàn)多分類
PSO通過優(yōu)化LSSVM的兩個參數(shù)gam和sig2,尋找參數(shù)的最優(yōu)組合,從而提高分類精度。
LSSVM工具箱的trainlssvm函數(shù)和simlssvm函數(shù)一般用于二分類問題,多分類問題則需要構(gòu)造多個二分類器。LSSVM工具箱的code函數(shù)可以將多分類任務(wù)編碼和解碼為多個二分類器。
首先使用code函數(shù)對多分類問題進(jìn)行編碼,然后用trainlssvm函數(shù)和simlssvm函數(shù)分別對數(shù)據(jù)進(jìn)行訓(xùn)練和測試,再使用code函數(shù)對測試結(jié)果進(jìn)行解碼。PSO優(yōu)化LSSVM實現(xiàn)多分類的源代碼見參考文獻(xiàn)[6],分類的精確率能達(dá)到90%以上。
參考文獻(xiàn)
[1]粒子群優(yōu)化算法(PSO)
[2]粒子群算法PSO詳解
[3]MATLBA中最小二乘支持向量機(jī)原理+實例分析
[4]最小二乘支持向量機(jī)算法及工具
[5]PSO-LSSVM的matlab實現(xiàn)
[6]PSO-LSSVM的MATLAB代碼
總結(jié)
以上是生活随笔為你收集整理的PSO-LSSVM算法及其MATLAB代码的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 从其它地方复制的代码到VS 提示无法识别
- 下一篇: mysql found row_mysq