2024年4月28日发(作者：)
基于非参数统计的生物启发式优化算法性能评估
赵辉;李牧东;翁兴伟;周欢
【摘 要】由于生物启发式优化算法性能评估方法存在单一性、片面性且无法进行
统一地检验分析问题,从而严重影响了对优化算法性能的深入研究而导致各类优化
算法无法准确地应用于解决实际问题。针对这一问题,利用非参数统计检验中典型
的 Wilcoxon 符号秩检验和 Quade 检验方法,对5种生物启发式优化算法在36种
测试函数条件下的仿真结果进行检验分析。测试结果表明：上述检验方法能够有效
地对不同类型的优化算法性能进行分析比较,J ADE 算法相比于其他4种算法,在收
敛速度及搜索精度方面表现最优,而 GWO 算法在精度稳定性方面相比于其他4种
算法表现出较优的性能,对各类生物启发式优化算法优化性能的评估与比较提供了
新的思路。%Aimed at the problems that the biology-inspired optimization
algorithms are of oneness,one-sid-edness and fail to check and analyze
uniformly the performance evaluation,thus having a strong impact on the
intensive study for performance of the optimization algorithms and failing
to solve practical problems accurately,two classical nonparametric statistics
methods named Wilcoxon Sign Rank test and Quade test are utilized for
testing and analyzing the simulation results of five different BOAs under
the conditions of thirty-six different test experimental results
show that the two test methods can be used ef-fectively to compare and
analyze the optimization performances of different optimization
algorithm is most superior in convergence speed and
search accuracy compared with the other four algo-rithms,whereas,GWO
has comparatively superior performance in the aspect of stability
compared with other four this provides a new idea for
evaluating and comparing the performances of dif-ferent BOAs.
【期刊名称】《空军工程大学学报（自然科学版）》
【年(卷),期】2015(000)001
【总页数】6页(P89-94)
【关键词】生物启发式优化算法;非参数统计;Wilcoxon符号秩检验;Quade检验
【作 者】赵辉;李牧东;翁兴伟;周欢
【作者单位】空军工程大学航空航天工程学院，陕西西安，710038;空军工程大学
航空航天工程学院，陕西西安，710038;空军工程大学航空航天工程学院，陕西西
安，710038;空军工程大学航空航天工程学院，陕西西安，710038
【正文语种】中 文
【中图分类】TP301.6
生物启发式优化算法(Biology-inspired Optimization Algorithms，BOA)是基于
生物学理论与原理设计并发展的自然启发式算法，主要包括进化算法
(Evolutionary Algorithms，EA)和群集智能算法(Swarm Intelligence，SI)两大
类[1]。Holland于1992年提出的受到达尔文自然选择理论以及遗传学启发的遗
传算法(Genetic Algorithms，GA)[2]开启了生物启发式优化算法的先河。随后，
相继出现了一系列典型的优化算法，如较为经典的粒子群算法(Particle Swarm
Optimization, PSO)[3]、蚁群算法(Ant Colony Optimization, ACO)[4]及其改进
算法[5]，以及近两年提出的人工蜂群算法(Artificial Bee Colony, ABC)[6]，灰狼
算法(Grey Wolf Optimizer, GWO)[7]和布谷鸟搜索算法(Cuckoo-Search
Algorithm, CK)[8]等等。
随着各类生物启发式优化算法的种类与性能以及各类测试函数的不断发展，如何准
确地、方便地评价各类算法的优化性能成为了制约算法应用发展的一个关键问题。
目前，较为广泛的方法是利用不同类型的测试函数，对各类优化算法独立运行后的
优化结果计算其平均值或方差等统计参数的方法进行逐一比较并加以评价。然而通
过这种方法分析出的结果较为片面性且无法进行统一地定性分析，特别是对于多种
优化算法在多个测试函数条件下，由于得出的实验数据较多，准确地对其性能进行
比较评价显得更加困难。为此，本文利用非参数统计学中Wilcoxon符号秩检验[9]
和Quade检验[10]2种方法来解决不同类型生物启发式优化算法的性能评估问题，
分别通过上述2种方法所对应的成对符号检验和多符号检验的方法对5种典型生
物启发式优化算法的仿真结果进行检验分析，得出不同算法优化性能的比较结果。
针对各类生物启发式优化算法在比较其优化性能时对于不同的测试函数存在2种
算法之间的比较以及多种算法之间的比较存在繁琐、缺乏直观表现的问题，本文将
非参数统计中2种与之相对应的典型检验方法引入到对优化算法的优化性能评估
中，即Wilcoxon符号秩检验和Quade检验，以期对各类不同算法给出较准确且
可靠的性能评估。
1.1 Wilcoxon符号秩检验
Wilcoxon符号秩检验是用来回答2组独立样本之间是否存在明显差异问题[9]。
在Wilcoxon符号秩检验中，它将观测值和零假设的中心位置之差的绝对值的秩分
别按照不同的符号相加作为其检验统计量。不同于T检验，Wilcoxon符号秩检验
不要求成对的数据之差服从正态分布，只要求其对称即可，因此能够用于优化算法
之间对于不同测试函数优化结果的比较它的检验过程具体如下。令di为2种算法
在优化n个问题时所对应的第i个问题之差，将n个di进行排序，并计算它们的
秩。
1)计算秩和。令R+为第一个算法优于第二个算法的秩和，R-为第一个算法劣于第
二个算法的秩和，计算公式如下：
式中：R+与R-之和为0.5n(n+1)。
2)双边检验。在零假设条件下，对于双边检验H0:M=M0↔H1:M≠M0，R+与R-
应差异不大，即2种算法性能并无明显差异；若当中之一很小，即T=min(R+，
R-)很小，则怀疑假设，即2种算法之间优化性能存在明显差异。
3)查表求p值。根据得到的T值，查Wilcoxon符号秩检验的分布表以得到在零
假设下的p值，也可以通过软件计算出p值，如目前流行的SPSS、SAS和R等
软件均可以有效地计算p值。如果p值较小(即小于或等于给定的显著水平
α=0.05)，则可以拒绝零假设。
Wilcoxon符号秩检验是在样本数据对称的假定条件之下进行的，相比于符号检验
具有更多的信息，因而得到的结果也更加可靠。因此，这种检验方法可以用来对2
种不同优化算法对于各类测试函数所得出的平均值或者方差等统计结果进行成对的
比较，从而可以对2种优化算法的优化性能进行统一的定性分析。
1.2 Quade检验
在不同算法性能的比较中，往往需要比较2种以上不同算法对于各类测试函数的
优化性能，这时就需要进行多组数据之间的比较。上述Wilcoxon符号秩检验仅适
用于2种算法之间相互比较，对于多种算法优化性能的同时比较却束手无策，而
Quade检验作为用来处理完全随机区组设计数据的方法，为解决多算法之间性能
相互比较提供了新的思路。
Quade检验要求各组数据之间相互独立，且适用于数据类型为非正态分布的计量
资料。检验假设H0为各类算法总体分布相同，即算法性能几乎没有差异；H1为
各算法总体分布不全相同，即各类算法之间存在差异。对于每个待优化的问题i，
不同算法的优化结果按照最优值到最差值的顺序从1到k进行排序，将这些排序
后的结果记为ri,j(1≤j≤k)。
1)计算组内极差。组内极差为对于同一个优化问题i，不同优化算法优化结果的最
优值与最差值之间的差，即：
2)计算组内各观察值得相对大小Si,j以及合计值Sj。令Qi为各组极差值由小到大
编排的秩次，则：
式中：(k+1)/2为组内的平均秩次，j=1,2,…,k。为了方便起见，我们也可以省略
平均秩次，即：
而与之相对应的第j种算法的合计值Tj则按下式计算：
式中
3)计算检验统计值FQ。
式中：A为总平方和；B为处理平方和。
4)假设判断。根据自由度(k-1)和(n-1)(k-1)及显著水平α，通过查询F分布表得出
F界值。若计算出的FQ大于F界值，则在水平上拒绝H0，接收H1。
本文利用Quade检验中计算各类算法的Tj与Sj值实现评价比较各类优化算法优
化性能，合计值越小，则算法对应的性能越好。
2.1 实验准备
对于测试不同的BOA算法性能，目前较为认可的方法是利用不同类型的标准测试
函数，通过多次独立运行计算其优化后最优值的平均值和方差等统计值来进行性能
评估。本文在此基础之上，利用非参数统计中Wilcoxon符号秩检验和Quade检
验两种方法对实验结果进行分析，得出更为可靠的性能分析结果。首先，本文从文
献[11]中所提到的测试函数中选取36个典型的标准测试函数见表1。
考虑到文章篇幅限制，表1中仅给出了这些测试函数的基本描述，具体描述见文
献[11]。其中M为多峰函数，U为单峰函数，S为可分函数，N为不可分函数。
为了充分说明本文采用的优化算法性能评估方法的有效性，本文对5种目前较为
流行的生物启发式优化算法进行比较，分别为广泛学习粒子群算法
(Comprehensive Learning PSO, CLPSO)[12]、ABC、CK、GWO和JADE[13]
算法，其中JADE算法作为标准算法与其它4种算法进行比较，从而验证其优化性
能。上述算法的简要描述和参数设置如下：
1)CLPSO：CLPSO算法是在粒子群算法基础上利用广泛学习策略提出的改进算法，
该算法的参数设置为C=1.494 45，m=0，w0=0.9，w1=0.4；
2)ABC: ABC算法是模拟蜜蜂采蜜过程而提出的新型算法，参数设置为limit=1
000，观察蜂个数=雇佣蜂个数=种群个数/2；
3)GWO：GWO算法是通过模拟灰狼群在猎食时的行为特点设计并提出的新型算
法，参数设置为a=2-1×(2/Max Cycle)。
4)CK：CK算法是模拟布谷鸟产蛋活动而提出的新型生物启发式优化算法，该算法
的参数设置为b = 1.50，p0 = 0.25；
5)JADE: JADE算法是通过利用自适应原理对DE算法的控制参数加以改进来提高
算法的性能，参数设置为CRm=0.5，Fm=0.5，Adactor =1, c=1/10，p=0.05；
为了更好地验证算法的优化性能，所有试验均在硬件配置为Intel(R) Core(TM)，
CPU：i5-3470，主频3.20 GHz，内存为3.46GB的计算机上进行，程序采用
MATLAB 2013a编写。各算法种群个数设置为40，最大迭代次数(Max Cycle)为
10 000，算法评价次数为40×10 000次，算法终止条件为优化结果满足最小误差
精度ErrGoal=10-50或者达到最大迭代次数。
2.2 仿真结果及分析
通过仿真实验，表2列出了5种算法在上述参数设置条件下独立运行30次的仿真
结果，其中M为算法求得最优值的平均值，S为标准差。从表2中可以看出，面
对多个测试函数直接对JADE算法的优化性能进行评估显得十分繁琐，且不能对其
性能在整体上进行比较评价。
因此首先利用Wilcoxon符号秩检验对其性能进行分析，设置显著水平为0.05。
表3给出了30次独立运行后算法对36个测试函数优化后的最优值的Wilcoxon
符号秩检验结果。其中win表示两种算法比较中性能较优的算法，“+”表示
JADE算法优于相比较的算法，“-”表示JADE算法差于相比较的算法，“=”表
示两种算法性能并无明显差异。
从表3中通过统计“+/=/-”值可以看出，对于36个不同的测试函数，JADE算
法整体上在算法收敛速度及搜索精度方面明显优于与之比较的CLPSO算法、ABC
算法、CK算法以及GWO算法。然而Wilcoxon符号秩检验仅仅适用于两两之间
的比较，而对于同时评价并按照优化性能的好坏对这5种算法的性能进行比较排
序，则需要利用Quade检验这一方法完成。
表4给出了30次独立运行后各算法对36个测试函数优化后的平均最优值及平均
方差的Quade检验结果。从表4中可以看出，在收敛速度及搜索精度方面，
JADE算法性能最优，其次分别为CLPSO算法、CK算法、GWO算法，ABC算法
相对性能最差；而在搜索精度稳定性方面，GWO算法性能最优，其次分别为
JADE算法、CLPSO算法、ABC算法，CK算法在这一方面表现最差。
随着进化计算的迅猛发展，作为其重要分支的生物启发式优化算法，其种类、性能
也随之得到了前所未有的突破，而与之对应的测试函数的种类也逐渐增多。在此情
况下，如何准确地、方便地、有效地评价各类优化算法的优化性能成为一个新的问
题，对于此，本文提出了利用统计学中非参数统计的2类典型方法：Wilcoxon符
号秩检验和Quade检验，分别从算法成对比较和多组比较的角度出发，对5种不
同的生物启发式优化算法在36种不同类型的测试函数下的性能进行了比较分析，
实验结果表明，JADE算法相比于其它四种算法，在收敛速度及搜索精度方面表现
最优，而GWO算法在精度稳定性方面相比于其它4种算法表现出较优的性能。
本文为评价生物启发式优化算法的性能提供了新的思路，后续在开展对其算法性能
研究的过程中也可利用其它非参数统计方法对不同优化算法的各类优化性能进行评
价分析，例如符号检验、Friedman检验等方法。
*通信作者：李牧东(1987-)，男，博士生，从事智能优化算法、武器系统与运用工
程等研究. E-mail：******************
【相关文献】
[1] Chiong R. Nature-Inspired Algorithms for Optimization[M]. Heidelberg: Springer-
Verlag Berlin Heidelberg, 2009.
[2] Holland J H. Genetic Algorithms[J]. Sci Am 1992, 267:66-72.
[3] Kennedy J, Eberhart R. Particle Swarm Optimization[C]//IEEE International Conference
in Neural Networks, Perth, WA: IEEE, 1995: 1942-1948.
[4] Dorigo M, Birattari M, Stutzle T. Ant colony Optimization[J]. Computation Intelligence
Magazine,2006, 1:28-39.
[5] 陈义雄，梁昔明，黄亚飞. 基于佳点集构造的改进量子粒子群优化算法[J].中南大学学报:自然科
学版, 2013, 44(4): 1409-1415.
CHEN Yixiong, LIANG Ximing, HUANG Yafei, Improved Quantum Particle Swarm
Optimization Based on Good-point set [J]. Journal of Central South University:Science and
Technology,2013, 44(4): 1409-1415.
[6] Basturk B, Karaboga D. An Artificial Bee Colony (ABC) Algorithm for Numeric Function
Optimization[C]//IEEE Swarm Intelligence Symposium, Indiana, USA: IEEE, 2006: 12-16.
[7] Mirjalili S, Mirjalili S M, Lewis A. Grey Wolf Optimizer[J]. Advances in Engineering
Software, 2014, 69:46-61.
[8] Yang X S, Deb S. Cuckoo Search: Recent Advances and Applications [J]. Neural
Computation & Application, 2014, 24:169-174.
[9] Sheskin D J. Handbook of Parametric and Nonparametric Statistical Procedures[M].4th
ed.[s.l.]:Chapman & Hall/CRC, 2006.
[10] Quade D. Using Weighted Rankings in the Analysis of Complete Blocks with Additive
Block Effects[J], Journal of the American Statistical Association, 1979, 74:680-683.
[11] Jamil M, Yang X S. A literature Survey of Benchmark Functions for Global
Optimization Problems[J].International Journal of Mathematical Modelling and Numerical
Optimisation,2013, 4(2): 150-194.
[12] Liang J J, Qin A K, Suganthan P N, et al. Comprehensive learning Particle Swarm
Optimizer for Global Optimization of Multimodal Functions[J].IEEE Transaction Evolution
Computation, 2006, 10(3), 281-295.
[13] Zhang J, Sanderson A C. JADE: Adaptive Differential Evolution with Optional External
Archive[J].IEEE Transaction Evolution Computation, 2009, 13(5):945-958.
发布评论