《Two-Archive Evolutionary Algorithm for Constrained Multiobjective Optimization》阅读笔记
文章目錄
- 1 INTRODUCTION
- 2 PRELIMINARIES
- 2.1 文獻綜述
- 2.2 對現(xiàn)有的約束處理方法的挑戰(zhàn)
- 3 PROPOSED ALGORITHM
- 3.1 密度估計方法
- 3.2 CA的更新機制
- 3.3 DA的更新機制
- 3.4 后代繁殖
- 4 EXPERIMENTAL SETUP
- 4.1 基準函數(shù)
- 4.2 指標
- 5 EMPIRICAL STUDIES
- 6 CONCLUSION
- 7 REFERENCES
摘要 在求解約束多目標優(yōu)化問題時,一個重要的問題是如何同時兼顧收斂、多樣性和可行性。針對這一問題,提出了一種無參數(shù)約束處理技術(shù)–兩檔案進化算法,用于有約束的多目標優(yōu)化問題。它同時維護兩個協(xié)同檔案:一個是推動種群走向帕累托前沿的驅(qū)動力,稱為收斂導向檔案(convergence-oriented archive);另一個是主要傾向于維持種群多樣性的多樣性導向檔案(diversity-oriented archive)。特別是,為了補充CA的行為并提供盡可能多的多樣化信息,DA旨在探索CA未充分開發(fā)的區(qū)域,包括不可行的區(qū)域。為了利用這兩種檔案的互補作用,我們開發(fā)了一種受限的交配選擇機制,根據(jù)它們的進化狀態(tài)自適應地從它們中選擇合適的交配親本。在一系列測試函數(shù)上的復雜實驗和一個真實世界的案例研究充分證明了我們提出的算法相對于五種最先進的約束進化多目標優(yōu)化器的競爭力。
1 INTRODUCTION
??有約束的多目標問題(CMOP)可以描述為:
minimizeF(x)=(f1(x),f2(x),...,fm(x))Tsubjecttogi(x)≥aj,j=1,2,...,qhi(x)=bj,j=q+1,...,?x∈Ω\begin{aligned} minimize \ \ &\boldsymbol{F}(\boldsymbol{x})=(f_1(\boldsymbol{x}),f_2(\boldsymbol{x}),...,f_m(\boldsymbol{x}))^T \\ subject \ \ to\ \ &g_i(\boldsymbol{x})\ge a_j, \ \ j=1,2,...,q \\ &h_i(\boldsymbol{x})= b_j,j=q+1,...,\ell \\ &\boldsymbol{x}\in \varOmega \end{aligned} minimize??subject??to???F(x)=(f1?(x),f2?(x),...,fm?(x))Tgi?(x)≥aj?,??j=1,2,...,qhi?(x)=bj?,j=q+1,...,?x∈Ω? x\boldsymbol{x}x對第jjj個約束條件的違反程度計算方法為:
cj(x)={<gi(x)/aj?1>,j=1,...,q<∣hj(x)/bj?1∣??>,j=q+1,...,?c_j\left( \boldsymbol{x} \right) =\begin{cases} \left< g_i\left( \boldsymbol{x} \right) /a_j-1 \right> ,&j=1,...,q\\ \left< \left| h_j\left( \boldsymbol{x} \right) /b_j-1 \right|-\epsilon \right> ,&j=q+1,...,\ell\\ \end{cases} cj?(x)={?gi?(x)/aj??1?,?∣hj?(x)/bj??1∣???,?j=1,...,qj=q+1,...,?? ?\epsilon?是一個容忍項,可以將等式約束放松為不等式約束。<?>\left< \cdot \right>???表示當括號內(nèi)大于等于零時函數(shù)值為0,否則函數(shù)值為負數(shù)。因此x\boldsymbol{x}x整體的違反程度為:
CV(x)=∑j=1?cj(x)CV(\boldsymbol{x})=\sum_{j=1}^{\ell}{c_j\left( \boldsymbol{x} \right)} CV(x)=j=1∑??cj?(x)當 CV(x)=0CV(\boldsymbol{x})=0CV(x)=0 時說明x\boldsymbol{x}x是可行的,否則x\boldsymbol{x}x不可行。
??給定兩個可行解x1,x2∈Ω\boldsymbol{x}^{1},\boldsymbol{x}^2\in \varOmegax1,x2∈Ω,若在任一目標函數(shù)上F(x1)F(\boldsymbol{x}^{1})F(x1)都不差于F(x2)F(\boldsymbol{x}^{2})F(x2),且至少在一個目標上完全優(yōu)于F(x2)F(\boldsymbol{x}^{2})F(x2),則稱x1\boldsymbol{x}^1x1支配x2\boldsymbol{x}^2x2(x1?x2\boldsymbol{x}^{1} \preceq\boldsymbol{x}^{2}x1?x2)。若?x∈Ω\nexists\boldsymbol{x}\in\varOmega?x∈Ω 使得x?x?\boldsymbol{x}\preceq\boldsymbol{x^*}x?x?,則稱x?\boldsymbol{x^*}x?是帕累托最優(yōu)解(Pareto-optimal),所有帕累托最優(yōu)解的集合稱為帕累托解集(Pareto set;PS),帕累托前沿面(Pareto front;PF)定義為:PF={F(x)∣x∈PS}PF=\left\{ \boldsymbol{F(x)}| \boldsymbol{x}\in PS \right\}PF={F(x)∣x∈PS}。
??一般而言,收斂性、多樣性和可行性是CMOP的三個基本問題。大多數(shù)現(xiàn)有的約束處理技術(shù)在考慮可行域內(nèi)的收斂和多樣性之間的平衡之前,首先傾向于將種群盡可能地留在可行域。但這可能會導致種群陷入局部最優(yōu)或局部可行域,特別是當可行域很窄或在搜索空間中分布不均勻時。
??在本文中我們提出了一種兩階段進化算法(C-TAEA),同時維持兩個協(xié)作互補的檔案:一個是收斂導向檔案(CA),一個是多樣性導向檔案(DA)。C-TAEA主要的特點如下:
1)正如名字所示,CA是進化過程中保證解的收斂性和可行性的主導力量,它能夠使解接近PF。
2)相比之下,DA在沒有考慮可行性的情況下,主要傾向于保持進化過程的收斂性和多樣性。特別是,DA探索了CA尚未開發(fā)的領(lǐng)域。這不僅提高了CA在當前搜索的可行域內(nèi)的種群多樣性,而且有助于跳出局部最優(yōu)或局部可行域。
3)為了利用這兩個協(xié)作檔案的互補效應和精英信息,我們提出了一種受限的交配選擇機制,根據(jù)CA和DA的進化狀態(tài)分別從CA和DA中選擇合適的交配親本。
??本文的其余部分組織如下:第二節(jié)簡要概述了為解決CMOP的最新的進化算法,然后引出了我們的動機。第三節(jié)介紹了所提出算法的技術(shù)細節(jié)。在第四節(jié)和第五節(jié)中,對所提出的算法的有效性和競爭力進行了實證研究,并在不同的基準問題上與五種最新的約束EMO算法進行了比較。最后,第六節(jié)對全文進行了總結(jié),并對今后的發(fā)展方向提出了設(shè)想。
2 PRELIMINARIES
2.1 文獻綜述
??多目標優(yōu)化中現(xiàn)有的約束處理技術(shù)的思想可以分為以下三類:
??第一類主要是由可行性主導的,其中可行方案總是被賦予更高的優(yōu)先級以生存到下一次迭代。在1990年的算法[13]中對約束的重視程度高于對目標函數(shù)的重視程度,這導致了對可行解決方案的搜索優(yōu)先于最佳解決方案。還有一些算法[14]直接忽視不可行解,這樣的算法在遇到狹窄的可行域時會產(chǎn)生很多問題。后來Deb[2]等人提出了一種帶約束的支配關(guān)系。即只要滿足以下條件就稱x1\boldsymbol{x}^1x1支配x2\boldsymbol{x}^2x2:1)x1\boldsymbol{x}^1x1可行而x2\boldsymbol{x}^2x2不可行;2)二者都不可行但CV(x1)<CV(x2)CV(\boldsymbol{x}^1)<CV(\boldsymbol{x}^2)CV(x1)<CV(x2);3)二者都可行且x1?x2\boldsymbol{x}^1\prec\boldsymbol{x}^2x1?x2。在現(xiàn)有的NSGA-II和NSGA-III的基礎(chǔ)上使用該支配關(guān)系接可以解決CMOP問題。借用此想法,幾個MOEA/D變體[15]-[17]在子問題更新過程中使用CV作為替代標準。與文獻[2]不同,Oyama et al[18]提出了一種改進的支配關(guān)系,根據(jù)該關(guān)系,優(yōu)先選擇違反較少約束的解。為了改善不可行解的可解釋性,Takahama和Sakai[19]以及Martínez和Coello[20]提出了一種??constrained\epsilon-constrained??constrained支配關(guān)系,其中當兩個解的CV之差小于閾值?\epsilon?時,兩個解違反約束的程度相同,特別的是,該閾值可以根據(jù)種群中可行解的比例自適應地調(diào)整。Asafuddoula等人[21]提出了一種自適應約束處理方法:當不可行解的CV值小于閾值時,將不可行解視為可行解。同樣,Fan等人[22]也提出了類似的觀點:基于角度的約束支配原理,即當兩個不可行解的角度大于某一閾值時,兩個不可行解被認為是彼此非支配的。
??第二類是在搜索過程中平衡收斂和可行性。Jiménez等人[23]提出了一個最小-最大公式,該公式驅(qū)動可行解向最優(yōu)解進化,并驅(qū)動不可行解向可行性進化。Ray等人[24]提出了一種Ray-Tai-Seow算法,該算法使用三種不同的方法對非支配解進行比較和排序。具體地說,第一排序過程是根據(jù)對目標函數(shù)的排序,第二種是根據(jù)不同的約束條件進行的;第三種是基于目標值和約束條件的組合。基于同樣的嚴密性,Young[25]提出了一種約束優(yōu)勢關(guān)系,該關(guān)系根據(jù)目標空間和約束空間的混合排序來比較解。Angantyr等人[26]也提出了類似的方法,使用目標空間和約束空間中的等級的加權(quán)平均排名。[5]提出了一種新的CMO約束處理技術(shù):將CMOP的每個原始目標函數(shù)轉(zhuǎn)換為距離度量和懲罰函數(shù)的和。特別地,將改進的目標函數(shù)用于NSGA-II的非支配排序過程中,可以在可行域和不可行域中搜索最優(yōu)解。為了提高種群的多樣性,Li et al.[27]提出了一種方法:保留孤立的不可行解。為了利用包含在不可行解中的有用信息,Peng et al.[28]提出使用一組分布在不可行域中的不可行權(quán)重來保留大量多樣性較高的不可行解。Ning et al.[29]提出了一種約束非支配排序方法,該方法根據(jù)解的Pareto排序和約束的排序得到解的約束非支配排序.。在[30]中,提出了一種對偶進化,其中不可行粒子向可行粒子進化,可行粒子向PF進化。
??最后一類試圖將不可行解修復為可行解。例如,Harada等人[31]提出了一種所謂的Pareto下降修復算子,它在約束空間中探索不可行解附近可能的可行解。然而,在實際應用中,梯度信息通常是不可用的。Singh等人[32]建議使用模擬退火法來加快從不可行解向可行解的移動過程。焦立中等人[33]提出了一種可行引導策略,其中可行方向被定義為從一個不可行解開始到其最近可行解的一個向量。然后,通過利用可行方向提供的信息,將不可行解引導到可行域。
2.2 對現(xiàn)有的約束處理方法的挑戰(zhàn)
??通過對上述文獻的回顧,我們發(fā)現(xiàn)大多數(shù)多目標優(yōu)化中的約束處理技術(shù)過于強調(diào)可行性的重要性,而很少同時考慮收斂、多樣性和可行性之間的平衡。當遇到復雜的約束時,這可能會導致搜索無效。
??以文獻[15]中的測試問題C1-DTLZ3為例,它的目標函數(shù)與[34]的DTLZ3相同,約束條件為:
c(x)=(∑i=1mfi(x)2?16)(∑i=1mfi(x)2?r2)\text{c}\left( \mathbf{x} \right) =\left( \sum_{i=1}^m{f_i\left( \mathbf{x} \right) ^2-16} \right) \left( \sum_{i=1}^m{f_i\left( \mathbf{x} \right) ^2}-r^2 \right) c(x)=(i=1∑m?fi?(x)2?16)(i=1∑m?fi?(x)2?r2)下圖顯示了當r=6r=6r=6時MOEA/D和NSGA-III的運算結(jié)果。由于可行域與不可行域交織在一起,所喲當解離開可行邊界,CV值就會增大。因此可行性主導的結(jié)果就是解只能停留在外層可行邊界。
??文獻[15]中的測試問題C2-DTLZ2為例,它的目標函數(shù)與[34]的DTLZ2相同,約束條件為:
c(x)=max?{max?mi=1[(fi(x)?1)2+∑j=1,j≠imfj2?r2][∑i=1m(fi(x)?1m)2?r2]}\begin{aligned} \text{c}\left( \mathbf{x} \right) =\max \left\{ \underset{i=1}{\overset{m}{\max}}\left[ \left( f_i\left( \mathbf{x} \right) -1 \right) ^2+\sum_{j=1,j\ne i}^m{f_{j}^{2}}-r^2 \right] \left[ \sum_{i=1}^m{\left( f_i\left( \mathbf{x} \right) -\frac{1}{\sqrt{m}} \right) ^2}-r^2 \right] \right\} \end{aligned} c(x)=max????i=1maxm????(fi?(x)?1)2+j=1,j?=i∑m?fj2??r2???[i=1∑m?(fi?(x)?m?1?)2?r2]?????下圖給出了該例子的圖示,其中可行區(qū)域在PF上是不連續(xù)的。如果每個可行部分較小,則可行性驅(qū)動的策略將很容易陷入部分可行。此外,最先進的基于分解的EMO算法中使用的權(quán)重向量,例如C-MOEA/D和C-NSGA-III,如果它們的大小足夠小,則很可能沒有一個穿過這些可行段。這給基于分解的EMO算法尋找可行解帶來了很大的困難。如圖所示的結(jié)果完全驗證了我們的斷言,當我們將r設(shè)置為相對較小的值(例如0.1時)時,C-MOEA/D和C-NSGA-III都無法在所有三個可行部分上找到帕累托最優(yōu)解。
??在這些討論的基礎(chǔ)上,我們發(fā)現(xiàn)過度使用可行性信息會限制受限EMO算法的搜索能力。在第三節(jié)中,我們將演示如何使用兩個歸檔策略平衡在整個搜索空間中同時實現(xiàn)收斂、多樣性和可行性。特別是,我們發(fā)現(xiàn),合理利用不可行信息有助于解決勘探和開采之間的兩難境地。
3 PROPOSED ALGORITHM
??我們提出的C-TAEA的總體流程圖如下圖所示。顧名思義,C-TAEA保留兩個協(xié)作檔案,CA和DA,每個檔案都有相同的固定大小NNN。具體來說,CA起主要作用,負責將種群導向可行域并接近PF;DA作為補充,主要用于探索CA開發(fā)不足的區(qū)域。值得注意的是,為了提供盡可能多的多樣化信息,DA的更新不考慮可行性信息。在繁殖過程中,交配親本根據(jù)其進化狀態(tài)分別從CA和DA中選擇,如第III-D節(jié)所述。然后,根據(jù)第III-B節(jié)和第III-C節(jié)分別描述的機制,使用子代來更新CA和DA。
3.1 密度估計方法
??在解釋C-TAEA中CA和DA的更新機制之前,我們首先介紹了對這兩種情況都有用的密度估計方法。為了便于密度估計,我們借鑒了MOEA/D-M2M[35]的思想,將目標空間劃分為NNN個子區(qū)域,每個子區(qū)域由標準單純形上唯一權(quán)向量表示。特別地,我們使用我們先前提出的可擴展到多目標場景的權(quán)重向量生成方法[27]來采樣一組均勻分布的權(quán)重向量,即W={w1,...,wN}\text{W}= \left\{\text{w}^1,..., \text{w}^N\right\}W={w1,...,wN}。具體地說,一個子區(qū)域Δi\Delta ^iΔi,其中i∈{1,...,N}i\in\left\{1,...,N\right\}i∈{1,...,N},它的定義為:
Δi={F(x)∈Rm∣<F(x),wi>≤<F(x),wj>}\Delta ^i = \left\{ \mathbf{F}\left( \mathbf{x} \right)\in \mathbb{R}^m|\left<\mathbf{F}\left( \mathbf{x} \right),\text{w}^i \right>\le\left<\mathbf{F}\left( \mathbf{x} \right),\text{w}^j \right> \right\} Δi={F(x)∈Rm∣?F(x),wi?≤?F(x),wj?} 其中j∈{1,...,N}j\in\left\{1,...,N\right\}j∈{1,...,N},<F(x),w>\left<\mathbf{F}\left( \mathbf{x} \right),\text{w} \right>?F(x),w?表示F(x)\mathbf{F}\left( \mathbf{x} \right)F(x)與w\text{w}w之間的銳角。建立子區(qū)域后,種群中的每個解x\mathbf{x}x都與下指標如下的子區(qū)域?qū)?lián)系:
k=argmin?i∈{1,...,N}<Fˉ(x),wi>k=\underset{i\in \left\{ 1,...,N \right\}}{arg\min}\left< \mathbf{\bar{F}}\left( \mathbf{x} \right) ,\mathbf{w}^i \right> k=i∈{1,...,N}argmin??Fˉ(x),wi?這里Fˉ(x,t)\mathbf{\bar{F}}\left( \mathbf{x},t\right)Fˉ(x,t)是歸一化的x\mathbf{x}x的目標向量,其第iii個目標函數(shù)的計算方法為:
fiˉ(x)=fi(x)?zi?zinad?zi?\bar{f_i}\left( \mathbf{x}\right)=\frac{f_i\left( \mathbf{x} \right) -z_i^*}{z_{i}^{nad}-z_i^*} fi?ˉ?(x)=zinad??zi??fi?(x)?zi???其中i∈{1,...,N}i\in\left\{1,...,N\right\}i∈{1,...,N},zi?=minx∈Sfi(x)z_i^*=min_{\mathbf{x}\in S}f_i(\mathbf{x})zi??=minx∈S?fi?(x),zinad=maxx∈Sfi(x)z_i^{nad}=max_{\mathbf{x}\in S}f_i(\mathbf{x})zinad?=maxx∈S?fi?(x),SSS指當前解所在的解集。
??算法1給出了該關(guān)聯(lián)過程的偽代碼。將解與子區(qū)域關(guān)聯(lián)后,子區(qū)域的密度被計算為與其關(guān)聯(lián)的解的個數(shù)。
Algorithm 1:關(guān)聯(lián)過程
Input:解集SSS,權(quán)重向量集WWW
Output:子區(qū)域Δ1,...,ΔN\Delta ^1,...,\Delta ^NΔ1,...,ΔN
Step 1) Δ1←?\Delta ^1\gets \emptysetΔ1←?,…,ΔN←?\Delta ^N\gets \emptysetΔN←?
Step 2) 對每一個x∈S\mathbf{x}\in Sx∈S,以及每一個w∈W\mathbf{w}\in Ww∈W都計算:
d⊥(x,w)=x?wTx/∥w∥d^{\bot}\left( \mathbf{x,w} \right) =\mathbf{x}-\mathbf{w}^{\mathbf{T}}\mathbf{x/}\lVert \mathbf{w} \rVert d⊥(x,w)=x?wTx/∥w∥Step 3) 令k←argmin?w∈Wd⊥(x,w)k\gets \underset{\mathbf{w} \in W}{arg\min}d^{\bot}\left( \mathbf{x,w} \right)k←w∈Wargmin?d⊥(x,w)
Step 4) Δk←Δk∪{x}\Delta ^k\gets \Delta ^k\cup \left\{\mathbf{x}\right\}Δk←Δk∪{x}
Step 5) 最后輸出Δ1,...,ΔN\Delta ^1,...,\Delta ^NΔ1,...,ΔN
注意:偽代碼中的x\mathbf{x}x實際指目標空間中的解,也就是上文中的F(x)\mathbf{F}\left( \mathbf{x} \right)F(x)。
簡述版:用[35]MOEA/D-M2M中的方法將目標空間分為 NNN個子空間Δ1,...,ΔN\Delta ^1,...,\Delta ^NΔ1,...,ΔN,再用[2]中的方法生成均勻分布的權(quán)重向量集WWW,對解集中的每個解F(x)\mathbf{F}\left( \mathbf{x} \right)F(x)求出與其夾角最小的權(quán)重向量wk\mathbf{w}^kwk,將該解分配到Δk\Delta ^kΔk。
3.2 CA的更新機制
??CA的作用與參考文獻中其他有約束的EMO算法相似。它首先將種群盡可能地推向可行域,然后試圖在可行域內(nèi)平衡收斂性和多樣性。算法2給出了CA更新機制的偽代碼。具體來說,我們首先形成混合種群HCH_CHC?,即 CA 和子代QQQ的組合。HCH_CHC?中的可行解被儲存到臨時檔案SCS_CSC?中(算法2的第3-5行)。之后,后續(xù)的程序取決于SCS_CSC?的大小。
1)若SCS_CSC?的大小等于NNN,即提前設(shè)定的CA的大小,則SCS_CSC?就是新的CA,此次更新程序終止。
2)若∣SC∣>N\left| S_C\right|>N∣SC?∣>N,我們使用[2]中的快速非支配排序方法,將SCS_CSC?分為不同的非支配等級:F1F_1F1?、F2F_2F2?等。從F1F_1F1?開始,依次選擇每個非支配等級構(gòu)成臨時檔案SSS直至檔案大小等于NNN或超過NNN。如果我們將最后一個可接受的非支配水平表示為FlF_lFl?,則屬于Fl+1F_{l+1}Fl+1?以后的解不再被考慮。需要注意的是,如果SSS的大小等于NNN,則SSS可以用作新的CA;否則,我們將S中的每個解與其對應的子區(qū)域相關(guān)聯(lián),并計算SSS的密度信息,依次刪去最擁擠區(qū)域的最差解,直到SSS的大小等于NNN(算法2的第11-21行)。值得注意的是,為了改善一個分區(qū)域內(nèi)的人口多樣性,我們提出了以下過程來確定最差解xw\mathbf{x}^wxw。首先,我們計算Δi\Delta ^iΔi內(nèi)每個個體x\mathbf{x}x與其最近點的距離:
dist(x)=min?x′∈Δi,x≠x′∥x?x′∥dist(\mathbf{x})=\underset{\mathbf{x'}\in \mathbf{\Delta }^i,\mathbf{x}\ne \mathbf{x'}}{\min}\lVert \mathbf{x}-\mathbf{x'} \rVert dist(x)=x′∈Δi,x?=x′min?∥x?x′∥具有最小距離的解被儲存在臨時檔案StS_tSt?中,而xw\mathbf{x}^wxw的定義如下:
xw=argmaxx∈St{gtch(x∣wi,z?)}\mathbf{x}^w=\underset{\mathbf{x}\in S_t}{argmax}\left\{ g^{tch}(\mathbf{x}|\mathbf{w}^i,\mathbf{z^*})\right\} xw=x∈St?argmax?{gtch(x∣wi,z?)}這里,
gtch(x∣wi,z?)=max1≤j≤m{∣fj(x)?zj?∣/wji}g^{tch}(\mathbf{x}|\mathbf{w}^i,\mathbf{z^*})=\underset{1\le j\le m}{max}\left\{\left|f_j(\mathbf{x})-z_j^*\right|/w_j^i \right\} gtch(x∣wi,z?)=1≤j≤mmax?{∣∣?fj?(x)?zj??∣∣?/wji?}
3)若∣SC∣<N\left| S_C\right|<N∣SC?∣<N,我們求解如下雙目標優(yōu)化問題:
minimizeF(x)=(f1(x),f2(x))Twhere{f1(x)=CV(x)f2(x)=gtch(x∣wi,z?)minimize \ \ \mathbf{F}(\mathbf{x})=\left(f_1(\mathbf{x}), f_2(\mathbf{x})\right)^T \\ where \begin{cases} f_1(\mathbf{x})=CV(\mathbf{x}) \\ f_2(\mathbf{x})=g^{tch}(\mathbf{x}|\mathbf{w}^i,\mathbf{z}^*) \\ \end{cases} minimize??F(x)=(f1?(x),f2?(x))Twhere{f1?(x)=CV(x)f2?(x)=gtch(x∣wi,z?)?
??在上述問題的基礎(chǔ)上,用快速非支配排序的方法將HCH_CHC?中的不可行解劃分為幾個非支配等級,前幾個級別的解在CA中有更高的優(yōu)先級,多余的解根據(jù)其CV進行刪除,CV值較大的優(yōu)先刪除。這些操作都是為了進一步平更收斂性、多樣性和可行性。
簡述版:每次迭代都從上一代CA和本次生成的子代Q形成HCH_CHC?中選擇。首先選出HCH_CHC?中可行的解放入SCS_CSC?,接下來討論SCS_CSC?與N大小不同時的情況:∣SC∣=N\left| S_C\right|=N∣SC?∣=N時,CA←SC\gets S_C←SC?;∣SC∣>N\left| S_C\right|>N∣SC?∣>N時,首先對SCS_CSC?中的解進行非支配排序得到{F1,F2,...}\left\{F_1,F_2,...\right\}{F1?,F2?,...},依次將其放入一個暫時的集合SSS直至∣S∣=N\left| S\right|=N∣S∣=N,若出現(xiàn)了∣S∣>N\left| S\right|>N∣S∣>N的情況,則對此時SSS中的x\mathbf{x}x對應的F(x)\mathbf{F}\left( \mathbf{x} \right)F(x)進行歸一化后分到不同的子空間(3.1中的方法),選出最擁擠的子空間并計算其中每個解與最近鄰的距離,距離最小的稱之為最差解,優(yōu)先刪除,每刪除一個解后重新檢查此時∣S∣>N\left| S\right|>N∣S∣>N是否仍成立,若仍成立,則繼續(xù)判斷最擁擠的子空間是否發(fā)生變化,再計算該子空間中每個解計算最近鄰,循環(huán)直至∣S∣=N\left| S\right|=N∣S∣=N。∣SC∣<N\left| S_C\right|<N∣SC?∣<N時,從HCH_CHC?中不可行解中選擇非支配解排序靠前的補全CA,如果在非支配解排序過程中又出現(xiàn)∣S∣>N\left| S\right|>N∣S∣>N的情況,仍是依次刪除最差解,此時最差解的評判標準是CV值的大小,CV越大則解越差。
3.3 DA的更新機制
??與CA不同,DA的目的是維持解的多樣性。它的更新機制有兩個特點:1)它沒有考慮約束;2)它以最新的CA作為參考集,探索CA的未開發(fā)區(qū)域來補充CA。算法3給出了這種更新過程的偽代碼。
??具體而言,類似于3.2節(jié),我們首先將DA與子代種群QQQ相結(jié)合,以形成混合種群HdH_dHd?。然后,按照3.1節(jié)(算法3的第1-3行)中介紹的方法,將HdH_dHd?中的每個解和最新的CA分別與其對應的子區(qū)域相關(guān)聯(lián)。然后,我們依次研究每個子區(qū)域,并決定HdH_dHd?中的解是否保留在DA中。每個子區(qū)域在第itritritr次迭代中最多保留itritritr個解,對于當前子區(qū)域Δi\Delta^iΔi,i∈{1,...,N}i\in\left\{1,...,N\right\}i∈{1,...,N},如果在Δi\Delta^iΔi的CA中已經(jīng)存在itritritr個解,則在此迭代過程中,HdH_dHd?中的解將不會留在Δi\Delta^iΔi中。否則,將選擇與Δi\Delta^iΔi相關(guān)的HdH_dHd?中最好的非支配解,表示為Oi\mathbf{O}^iOi,并將其選入新的DA(算法3的第10-12行)。這里,最優(yōu)解xb\mathbf{x}^bxb被定義為:
xb=argminx∈Oi{gtch(x∣wi,z?)}\mathbf{x}^b=\underset{\mathbf{x}\in O_i}{argmin}\left\{ g^{tch}(\mathbf{x}|\mathbf{w}^i,\mathbf{z^*})\right\} xb=x∈Oi?argmin?{gtch(x∣wi,z?)}直至DA被填滿。
3.4 后代繁殖
??兩個檔案之間的互動和合作是C-TAEA中至關(guān)重要的一步。除了CA和DA的更新機制的互補行為外,促成這種合作的另一個因素是受限制的交配選擇。一般來說,它的主要目的是利用這兩個檔案的精英信息進行后代繁殖。算法4提供了該受限交配選擇過程的偽代碼。
具體地說,我們首先將CA和DA組合成復合集HmH_mHm?。然后,我們分別評估CA和DA的非支配解在HmH_mHm?中的比例(算法4的第2行和第3行)。如果ρc>ρd\rho_c>\rho_dρc?>ρd?,則CA的收斂狀態(tài)好于DA。因此,第一個交配親本是從CA中選擇的;否則,它來自DA(算法4的第4-7行)。至于另一個交配親本,它是從CA還是DA中選擇,取決于非支配解在CA中的比例。CA擁有的非支配解越多,它被選為交配池的機會就越大。如算法4的第5-11行所示,我們使用二進制錦標賽選擇來選擇交配親本。
如算法5所示,與[2]中提出的算法相同,該錦標賽選擇過程是可行性驅(qū)動的。具體來說,如果隨機選擇的候選者都是可行的,則根據(jù)帕累托優(yōu)勢進行選擇;如果只有一個可行,則選擇可行的;否則,以隨機的方式選擇交配親本。一旦選擇了交配的雙親,我們就使用流行的模擬二進制交叉[36]和多項式突變[37]來繁殖后代。原則上,只需稍加修改即可應用任何其他復制操作符。
4 EXPERIMENTAL SETUP
??在討論實證結(jié)果之前,這一部分簡要介紹了我們的實證研究中用于同行比較的基準問題、性能指標和最新的約束EMO算法。
4.1 基準函數(shù)
??從文獻[15]中選取了5個約束測試問題(即C1-DTLZ1/DTLZ3、C2-DTLZ2和C3-DTLZ1/DTLZ4)和6個新提出的測試問題(DC1-DTLZ1/DTLZ3、DC2DTLZ2/DTLZ4和DC3-DTLZ1/DTLZ4)組成了基準測試集。所有這些測試問題都可以擴展到任意數(shù)量的目標,其中我們在這里設(shè)置了m∈{3,5,8,10,15}m\in\left\{3,5,8,10,15\right\}m∈{3,5,8,10,15}。補充材料的第一節(jié)給出了這些測試問題的詳細描述,包括數(shù)學定義和性質(zhì)。
4.2 指標
??選擇了兩個廣泛使用的度量來評估不同算法的性能。
1)Inverted Generational Distance(IGD):設(shè) P?P^*P?是在PF上均勻采樣的一組點,PPP是EMO算法求得的解集,則PPP的IGD值為:
IGD(P,P?)=∑z∈P?dist(z,P)∣P?∣IGD(P,P^*)=\frac{\sum_{\mathbf{z}\in P^*}{dist\left( \mathbf{z},P \right)}}{\left| P^* \right|} IGD(P,P?)=∣P?∣∑z∈P??dist(z,P)?
其中,dist(z,P)dist\left( \mathbf{z,}P \right)dist(z,P)表示z\mathbf{z}z與PPP中最近點的歐氏距離。
2)Hypervolume (HV):設(shè)zr=(z1r,...,zmr)T\mathbf{z}^r=\left(z_1^r,...,z_m^r \right)^Tzr=(z1r?,...,zmr?)T是可以被所有帕累托最優(yōu)目標向量支配的最差解,PPP的HV值為目標空間中由PPP和zr\mathbf{z}^rzr圍成的體積:
HV(P)=VOL(?z∈P[z1,z1r]×...×[zm,zmr])HV(P)=VOL(\bigcup_{z\in P}{\left[ z_1,z_{1}^{r} \right] \times ...\times \left[ z_m,z_{m}^{r} \right]}) HV(P)=VOL(z∈P??[z1?,z1r?]×...×[zm?,zmr?])
其中,VOL表示勒貝格測度。
??較小的IGD和較大的HV表示解更接近PF。
5 EMPIRICAL STUDIES
6 CONCLUSION
??本文針對約束多目標優(yōu)化問題,提出了一種無參數(shù)約束處理技術(shù)C-TAEA。在C-TAEA中,我們同時維護兩個協(xié)作檔案。具體地說,一種被稱為CA,主要關(guān)注于推動人口向PF靠攏;另一種,被稱為DA,主要傾向于探索CA未被開發(fā)的區(qū)域(即使是那些不可行的區(qū)域),從而提供更多樣化的信息。在這種情況下,CA和DA具有不同的行為和互補的作用。特別是,它們通過一種有限的交配選擇機制相互補充,該機制為后代繁殖選擇互補的交配親本。C-TAEA的性能已經(jīng)在一系列基準問題上進行了調(diào)查,這些問題具有各種類型的約束和多達15個目標。實驗結(jié)果充分證明了該算法在CMOP上的競爭力,并與五種最新的約束EMO算法進行了比較。除了人工基準問題外,C-TAEA的有效性也已在WDN設(shè)計優(yōu)化的真實案例研究中得到驗證。
??約束多目標優(yōu)化問題在實際應用中普遍存在。本文考慮的CMOP并不包含現(xiàn)實世界中的所有類型的約束。希望本文能啟發(fā)更多關(guān)于約束多目標優(yōu)化的研究,包括其他約束公式的研究以及在現(xiàn)實世界優(yōu)化場景中的應用。正如前面在[6]-[8]中所證明的,我們認為C-TAEA不僅僅是一個特定的算法。相反,它的基本思想,即同時維護多個互補和協(xié)同的檔案,可以廣泛應用于一般的EMO算法設(shè)計。在未來,從算法設(shè)計和理論基礎(chǔ)兩個角度對其潛在機制進行深入研究是值得探討的。此外,我們計劃研究這一雙檔案協(xié)作框架在更廣泛的問題上的有效性,例如無約束的MOP,包括那些具有復雜屬性的MOP(例如,具有復雜PSS的問題[43]以及不平衡的收斂和多樣性[44])、動態(tài)優(yōu)化(例如,具有變化的目標或約束的問題[45])。
7 REFERENCES
(僅列出了本文中所提到的文獻)
[2] K. Deb, S. Agrawal, A. Pratap, and T. Meyarivan,“A fast and elitist multiobjective genetic algorithm: NSGA-II,” IEEE Trans. Evol. Comput., vol. 6, no. 2, pp. 182–197, Apr. 2002.
[5] Y. G. Woldesenbet, G. G. Yen, and B. G. Tessema,“Constraint han- dling in multiobjective evolutionary optimization,” IEEE Trans. Evol. Comput., vol. 13, no. 3, pp. 514–525, Jun. 2009.
[15] H. Jain and K. Deb,“An evolutionary many-objective optimization algorithm using reference-point based nondominated sorting approach, part II: Handling constraints and extending to an adaptive approach,” IEEE Trans. Evol. Comput., vol. 18, no. 4, pp. 602–622, Aug. 2014.
[16] M. A. Jan and Q. Zhang,“MOEA/D for constrained multiobjective optimization: Some preliminary experimental results,” in Proc. U.K. Workshop Comput. Intell. (UKCI), 2010, pp. 1–6.
[17] R. Cheng, Y. Jin, M. Olhofer, and B. Sendhoff, “A reference vector guided evolutionary algorithm for many-objective optimization,” IEEE Trans. Evol. Comput., vol. 20, no. 5, pp. 773–791, Oct. 2016.
[18] A. Oyama, K. Shimoyama, and K. Fujii, “New constraint- handling method for multi-objective and multi-constraint evolutionary optimization,” Jpn. Soc. Aeronaut. Space Sci. Trans., vol. 50, no. 167, pp. 56–62, 2007.
[19] T. Takahama and S. Sakai,“Efficient constrained optimization by the ?\epsilon? constrained rank-based differential evolution,” in Proc. IEEE Congr.Evol. Comput. (CEC), 2012, pp. 1–8.
[21] M. Asafuddoula, T. Ray, and R. A. Sarker, “A decomposition-based evolutionary algorithm for many objective optimization,” IEEE Trans. Evol. Comput., vol. 19, no. 3, pp. 445–460, Jun. 2015.
[22] Z. Fan et al.,“Angle-based constrained dominance principle in MOEA/D for constrained multi-objective optimization problems,” in Proc. IEEE Congr. Evol. Comput. (CEC), 2016, pp. 460–467.
[23] F. Jiménez, A. F. Gómez-Skarmeta, G. Sánchez, and K. Deb,“An evolutionary algorithm for constrained multi-objective optimization,” in Proc. IEEE Congr. Evol. Comput. (CEC), 2002, pp. 1133–1138.
[24] T. Ray, K. Tai, and K.-C. Seow,“Multiobjective design optimization by an evolutionary algorithm,” Eng. Optim., vol. 33, no. 4, pp. 399–424, 2001.
[26] A. Angantyr, J. Andersson, and J.-O. Aidanpaa, “Constrained optimization based on a multiobjective evolutionary algorithm,” in Proc. IEEE Congr. Evol. Comput. (CEC), 2003, pp. 1560–1567.
[27] K. Li, K. Deb, Q. Zhang, and S. Kwong,“An evolutionary many objective optimization algorithm based on dominance and decomposition,” IEEE Trans. Evol. Comput., vol. 19, no. 5, pp. 694–716, Oct. 2015.
[28] C. Peng, H.-L. Liu, and F. Gu, “An evolutionary algorithm with directed weights for constrained multi-objective optimization,” Appl. Soft Comput., vol. 60, pp. 613–622, Nov. 2017.
[29] W. Ning et al.,“Constrained multi-objective optimization using constrained non-dominated sorting combined with an improved hybrid multi-objective evolutionary algorithm,” Eng. Optim., vol. 49, no. 10, pp. 1645–1664, 2017.
[30] A. E. Sorkhabi, M. D. Amiri, and A. R. Khanteymoori,“Duality evolution: An efficient approach to constraint handling in multi-objective particle swarm optimization,” Soft Comput., vol. 21, no. 24, pp. 7251–7267, 2017.
[31] K. Harada, J. Sakuma, I. Ono, and S. Kobayashi,“Constraint-handling method for multi-objective function optimization: Pareto descent repair operator,” in Proc. 4th Int. Conf. Evol. Multi Criterion Optim. (EMO), 2006, pp. 156–170.
[32] H. K. Singh, T. Ray, and W. Smith,“C-PSA: Constrained Pareto simulated annealing for constrained multi-objective optimization,” Inf. Sci., vol. 180, no. 13, pp. 2499–2513, 2010.
[33] L. Jiao, J. Luo, R. Shang, and F. Liu, “A modified objective function method with feasible-guiding strategy to solve constrained multi-objective optimization problems,” Appl. Soft Comput., vol. 14, pp. 363–380, Jan. 2014.
[35] H. Liu, F. Gu, and Q. Zhang,“Decomposition of a multiobjective optimization problem into a number of simple multiobjective subproblems,” IEEE Trans. Evol. Comput., vol. 18, no. 3, pp. 450–455, Jun. 2014.
[36] K. Deb and R. B. Agrawal,“Simulated binary crossover for continuous search space,” Complex Syst., vol. 9, no. 2, pp. 115–148, 1994.
[37] K. Deb and M. Goyal,“A combined genetic adaptive search (GeneAS) for engineering design,” Comput. Sci. Informat., vol. 26, no. 4, pp. 30–45, 1996.
總結(jié)
以上是生活随笔為你收集整理的《Two-Archive Evolutionary Algorithm for Constrained Multiobjective Optimization》阅读笔记的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 苹果id账号密码忘记了怎么办?分享官方教
- 下一篇: 高斯混合分布EM算法