留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

趋优算子和Levy Flight混合的粒子群优化算法

张新明 王霞 涂强 康强

张新明, 王霞, 涂强, 康强. 趋优算子和Levy Flight混合的粒子群优化算法[J]. 电子科技大学学报, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
引用本文: 张新明, 王霞, 涂强, 康强. 趋优算子和Levy Flight混合的粒子群优化算法[J]. 电子科技大学学报, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
ZHANG Xin-ming, WANG Xia, TU Qiang, KANG Qiang. Particle Swarm Optimization Algorithm Based on Combining Global-Best Operator and Levy Flight[J]. Journal of University of Electronic Science and Technology of China, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
Citation: ZHANG Xin-ming, WANG Xia, TU Qiang, KANG Qiang. Particle Swarm Optimization Algorithm Based on Combining Global-Best Operator and Levy Flight[J]. Journal of University of Electronic Science and Technology of China, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016

趋优算子和Levy Flight混合的粒子群优化算法

doi: 10.3969/j.issn.1001-0548.2018.03.016
基金项目: 

河南省重点科技攻关项目 132102110209

河南省基础与前沿技术研究计划 142300410295

详细信息
    作者简介:

    张新明(1963-), 男, 教授, 主要从事智能优化算法和数字图像处理方面的研究

  • 中图分类号: TP181

Particle Swarm Optimization Algorithm Based on Combining Global-Best Operator and Levy Flight

  • 摘要: 针对Levy Flight粒子群优化算法(LFPSO)普适性不强和搜索效率不高等问题,提出了一种改进的LFPSO算法(ILFPSO),即趋优算子与Levy Flight混合的粒子群优化算法。首先,对Levy Flight进行改进,防止产生无效解,得到改进的Levy Flight;然后,将既有一定全局搜索能力又有较强局部搜索能力的趋优算子与改进的Levy Flight有机融合,以便更好地平衡算法的全局和局部搜索能力;最后,对速度边界动态调整,有利于搜索前期找到全局最优点和搜索后期找到局部最优解。28个benchmark函数优化仿真结果表明,与4种最先进的PSO改进算法LFPSO、ELPSO、SRPSO和RLPSO相比,ILFPSO更具有竞争性的优化性能、更好的普适性和更快的运行速度。
  • 图  1  LFPSO算法流程图

    图  2  参数βσ值的关系曲线

    图  3  4种算法在4类benchmark函数上的收敛曲线图

    表  1  单峰和多峰benchmark函数信息表

    No. 函数 范围 Fmin
    f1 Sphere [-100, 100] 0
    f2 Sum Square [-10, 10] 0
    f3 Schwefel2.22 [-10, 10] 0
    f4 Schwefel2.21 [-100, 100] 0
    f5 Step [-100, 100] 0
    f6 Quartic [-1.28, 1.28] 0
    f7 Rastrigin [-5.12, 5.12] 0
    f8 NCRastrigin [-5.12, 5.12] 0
    f9 Griewank [-600, 600] 0
    f10 Schwefel2.26 [-500, 500] 0
    f11 Ackley [-32, 32] 0
    f12 Penalized1 [-50, 50] 0
    f13 Penalized2 [-50, 50] 0
    f14 Levy [-10, 10] 0
    f15 Styblinskitang [-10, 10] -78.332 3
    f16 Dixonprice [-10, 10] 0
    f17 Zakharow [-5, 10] 0
    f18 Schwefel1.2 [-100, 100] 0
    f19 Rosenbrock [-10, 10] 0
    f20 Weierstrass [-0.5, 0.5] 0
    f21 Exponential [-1.28, 1.28] 0
    f22 Scaffer [-100, 100] 0
    下载: 导出CSV

    表  2  平移和旋转benchmark函数信息表

    No. 函数 范围 Fmin
    f23 Shifted Sphere [-100, 100] -450
    f24 Shifted Schwefel2.21 [-100, 100] -450
    f25 Shifted Rastrigin [-5.12, 5.12] -330
    f26 Rotated Rastrigin [-5.12, 5.12] 0
    f27 Rotated Ackley [-32, 32] 0
    f28 Rotated Griewank [-600, 600] 0
    下载: 导出CSV

    表  3  4种函数对单峰和多峰函数的性能测试结果

    函数 Opt Max Min Mean Std
    f1 LFPSO 9.779 5×10-20 4.699 0×10-26 6.687 2×10-21 1.820 4×10-20
    ELPSO 3.680 8×10-9 3.709 1×10-12 4.210 4x 10-10 8.627 9×10-10
    SRPSO 1.896 9×10-8 4.929 3×10-11 4.0797×10-9 5.220 7×10-9
    ILFPSO 4.876 1×10-22 6.375 7×10-29 4.065 8×10-23 1.062 2× 10-22
    f2 LFPSO 1.925 1x 10-19 1.919 0×10-26 7.804 9×10-21 3.542 6×10-20
    ELPSO 4.860 4×10-9 1.036 2×10-12 2.231 1×10-10 8.799 3×10-10
    SRPSO 1.560 6×10-8 8.491 9×10-12 9.806 8×10-10 2.918 9×10-9
    ILFPSO 1.360 1×10-21 2.031 9×10-32 7.378 9×10-23 2.689 9×10-22
    f3 LFPSO 1.209 8×10-5 2.608 9×10-13 4.482 4×10-7 2.205 2×10-6
    ELPSO 1.778 4×10-4 1.396 0×10-8 9.017 9×10-6 3.276 6×10-5
    SRPSO 1.346 4×10-4 2.117 7×10-7 9.163 3×10-6 2.731 1×10-5
    ILFPSO 4.651 7×10-17 4.035 6×10-20 3.776 7×10-18 9.070 5× 10-18
    f4 LFPSO 2.000 0×101 1.7327×10-6 5.538 8 7.089 0
    ELPSO 5.990 8 1.678 8 4.018 7 1.075 9
    SRPSO 7.328 0 5.360 0×10-1 4.594 9 2.878 6
    ILFPSO 4.197 2×10-1 2.616 3×10-2 1.554 8×10-1 8.986 9×10-2
    f5 LFPSO 1 0 6.666 7×10-2 2.537 1×10-1
    ELPSO 1 0 1.666 7×10-1 3.790 5×10-1
    SRPSO 3 0 1.333 3 1.124 4
    ILFPSO 0 0 0 0
    f6 LFPSO 4.118 9×10-2 1.041 2×10-2 2.185 6×10-2 7.969 0×10-3
    ELPSO 5.873 2×10-2 7.380 6×10-3 2.980 6×10-2 1.160 6×10-2
    SRPSO 1.825 3×10-2 3.1167×10-3 9.159 2×10-3 3.803 2×10-3
    ILFPSO 1.056 9×10-2 1.712 7×10-3 4.809 3×10-3 2.372 4×10-3
    f7 LFPSO 4.309 7×101 2.318 3×101 3.247 9×101 4.795 1
    ELPSO 6.666 2×101 2.885 4×101 4.729 4×101 1.111 6×101
    SRPSO 5.805 0×101 1.591 9×101 3.256 4×101 9.281 6
    ILFPSO 0 0 0 0
    f8 LFPSO 3.200 0×101 1.8944×101 2.722 7×101 2.334 1
    ELPSO 8.514 4×101 2.100 0×101 4.498 7×101 1.6909×101
    SRPSO 5.500 0×101 2.000 0×101 3.0801×101 7.782 1
    ILFPSO 0 0 0 0
    f9 LFPSO 6.869 7×10-2 0 1.572 6×10-2 1.825 3×10-2
    ELPSO 1.006 2×10-1 4.457 9×10-12 1.971 5×10-2 2.613 0×10-2
    SRPSO 3.920 2×10-2 3.604 9×10-11 6.562 8×10-3 9.130 5×10-3
    ILFPSO 0 0 0 0
    f10 LFPSO 5.530 2×103 1.658 2×103 3.941 7×103 9.222 5×102
    ELPSO 5.389 1×103 2.191 1×103 3.746 7×103 6.695 7×102
    SRPSO 3.158 1×103 7.106 3×102 1.680 5×103 4.688 5×102
    ILFPSO 0 1.819 0×10-12 9.094 9×10-13 9.250 4×10-13
    f11 LFPSO 1.159 2 4.254 4×10-13 1.156 9×10-1 3.530 1×10-1
    ELPSO 2.013 3 7.321 6×10-7 2.846 9×10-1 5.612 7×10-1
    SRPSO 5.869 4×10-5 2.277 2×10-7 8.244 5×10-6 1.294 5×10-5
    ILFPSO 3.934 6×10-13 6.217 2×10-15 7.857 4×10-14 1.100 6×10-13
    f12 LFPSO 1.036 7×10-1 8.824 4×10-26 1.727 8×10-2 3.929 6×10-2
    ELPSO 5.191 2×10-1 3.294 0×10-14 4.149 3×10-2 1.041 5×10-1
    SRPSO 3.109 6×10-1 8.327 0×10-14 1.036 5×10-2 5.677 4×10-2
    ILFPSO 2.939 6×10-24 1.598 2×10-30 1.671 8×10-25 5.803 9×10-25
    f13 LFPSO 1.098 7×10-2 1.471 3×10-24 2.197 6×10-3 4.470 0×10-3
    ELPSO 1.098 7×10-2 4.310 9×10-12 2.930 0×10-3 4.941 9×10-3
    SRPSO 1.098 7×10-2 2.899 9×10-13 3.296 2×10-3 5.121 1×10-3
    ILFPSO 1.382 4×10-22 3.251 5×10-30 1.031 3×10-23 3.378 0×10-23
    f14 LFPSO 2.474 4×10-1 1.720 1×10-27 1.649 6×10-2 6.277 7×10-2
    ELPSO 2.474 4×10-1 4.117 9×10-13 1.649 6×10-2 6.277 7×10-2
    SRPSO 6.970 4×10-11 7.015 5×10-14 1.158 7×10-11 1.812 7×10-11
    ILFPSO 8.166 5×10-18 7.122 2×10-31 2.724 0×10-19 1.491 0×10-18
    f15 LFPSO -5.936 3×101 -6.537 6×101 -6.164 3×101 1.426 6
    ELPSO -7.806 5×101 -7.831 4×101 -7.826 6×101 5.618 0×10-2
    SRPSO -6.191 7×101 -6.786 4×101 -6.472 6×101 1.616 2
    ILFPSO -7.833 2×101 -7.833 2×101 -7.833 2×101 1.516 3×10-5
    f16 LFPSO 1.230 9 6.666 7×10-1 6.855 6×10-1 1.030 0×10-1
    ELPSO 3.274 4 4.399 8×10-7 4.231 1×10-1 8.206 0×10-1
    SRPSO 6.728 5×10-1 6.666 7×10-1 6.668 8×10-1 1.128 4×10-3
    ILFPSO 1.101 8 1.097 6×10-6 3.050 0×10-1 3.6001×10-1
    f17 LFPSO 2.535 9 1.975 3×10-1 8.012 9×10-1 5.089 0×10-1
    ELPSO 3.439 7 2.910 9×10-1 1.636 2 7.970 3×10-1
    SRPSO 4.844 9×10-1 9.818 6×10-2 2.250 0×10-1 9.448 7×10-2
    ILFPSO 3.826 2×10-2 9.742 7×10-3 2.057 7×10-2 7.372 7×10-3
    f18 LFPSO 1.398 2×102 1.100 3×101 3.518 8×101 2.470 4×101
    ELPSO 5.842 5×102 6.973 6×101 2.409 9×102 1.325 1×102
    SRPSO 1.631 2×102 2.231 8×101 6.598 4×101 3.519 4×101
    ILFPSO 3.404 5×101 3.791 4 1.501 8×101 6.099 2
    f19 LFPSO 8.272 4×101 1.013 1 3.457 3×101 2.547 5×101
    ELPSO 8.188 4×101 1.475 4×10-2 2.850 6×101 3.290 2×101
    SRPSO 8.370 7×101 2.320 3×101 2.933 5×101 1.451 5×101
    ILFPSO 2.550 1×101 1.099 8×10-3 1.342 9×101 1.239 7×101
    f20 LFPSO 1.607 9 2.487 5×10-3 2.417 1×10-1 4.243 0×10-1
    ELPSO 2.298 6×10-3 9.708 4×10-5 7.838 7×10-4 5.556 1×10-4
    SRPSO 1.500 9×10-1 9.974 1×10-4 3.660 3×10-2 4.176 4×10-2
    ILFPSO 0 0 0 0
    f21 LFPSO 1.034 4×10-5 0 7.205 1×10-7 2.155 1×10-6
    ELPSO 1.779 4×10-8 0 1.112 6×10-9 4.040 1×10-9
    SRPSO 2.918 7×10-5 2.220 4×10-16 4.716 5×10-6 8.075 2×10-6
    ILFPSO 3.878 1×10-6 1.065 8×10-14 3.443 4×10-7 7.972 1×10-7
    f22 LFPSO 1.782 2×10-1 7.818 9×10-2 1.392 7×10-1 3.417 8×10-2
    ELPSO 2.727 4×10-1 1.269 9×10-1 1.557 0×10-1 3.627 1×10-2
    SRPSO 1.269 9×10-1 7.818 9×10-2 8.472 4×10-2 1.686 3×10-2
    ILFPSO 7.818 9×10-2 9.715 9×10-3 3.358 6×10-2 1.341 8×10-2
    下载: 导出CSV

    表  4  种算法对平移和旋转函数的性能测试结果

    函数 Opt Max Min Mean Std
    f23 LFPSO 4.569 0 3.137 1×10-6 2.867 3×10-1 9.843 4×10-1
    ELPSO 1.775 4×10-8 3.638 0×10-12 1.260 8×10-9 3.565 4×10-9
    SRPSO 3.615 0×10-7 4.629 3×10-10 2.845 6×10-8 7.237 0×10-8
    ILFPSO 1.995 1×10-6 3.798 2×10-9 3.680 2×10-7 5.759 2×10-7
    f24 LFPSO 5.667 5 3.296 9×10-12 2.377 3 1.771 9
    ELPSO 6.782 6 1.643 4 3.801 7 1.091 3
    SRPSO 2.228 9 4.674 4×10-1 1.126 1 4.201 5×10-1
    ILFPSO 1.515 7 5.768 3×10-1 9.560 1×10-1 2.223 5×10-1
    f25 LFPSO 1.469 1×102 3.689 6×101 6.808 8×101 2.706 5×101
    ELPSO 7.064 2×101 2.089 4×101 4.444 2×101 1.316 2×101
    SRPSO 9.949 6×101 2.686 4×101 5.405 9×101 1.794 4×101
    ILFPSO 5.797 1×101 1.839 0×101 3.098 6×101 8.728 1
    f26 LFPSO 1.573 7×102 1.076 5×102 1.384 8×102 1.190 7×101
    ELPSO 2.166 9×102 7.011 6×101 1.410 3×102 3.676 4×101
    SRPSO 2.041 9×102 6.545 7×101 1.566 0×102 3.972 5×101
    ILFPSO 1.408 1×102 2.242 3×101 8.325 9×101 2.711 9×101
    f27 LFPSO 4.255 3 1.778 0 3.004 5 7.429 3×10-1
    ELPSO 4.855 0 1.378 7 2.943 9 8.077 2×10-1
    SRPSO 2.579 9 1.947 0×10-5 1.173 4 7.363 2×10-1
    ILFPSO 2.221 0 9.556 8×10-13 2.824 5×10-1 6.525 5×10-1
    f28 LFPSO 6.607 2×10-2 4.354 4×10-11 1.540 4×10-2 1.693 6×10-2
    ELPSO 5.812 9×10-1 8.855 1×10-3 2.460 7×10-1 1.282 0×10-1
    SRPSO 3.933 8×10-2 1.907 2×10-5 1.051 5×10-2 1.014 0×10-2
    ILFPSO 2.698 7×10-2 6.450 8×10-12 3.033 5×10-3 6.807 5×10-3
    下载: 导出CSV

    表  5  4种优化算法运行时间对比

    函数 运行时间/s
    LFPSO ELPSO SRPSO ILFPSO
    f1 0.872 2 0.384 5 1.577 0 0.510 0
    f2 1.839 0 0.472 9 1.603 9 0.541 1
    f3 1.074 5 0.443 7 1.673 3 0.517 6
    f4 1.034 7 0.428 5 1.717 4 0.579 3
    f5 1.061 8 0.436 8 1.429 3 0.588 9
    f6 1.656 7 0.802 1 1.882 7 0.848 7
    f7 1.183 2 0.489 0 1.702 9 0.561 1
    f8 1.377 4 0.590 0 1.678 1 0.601 8
    f9 1.919 2 0.766 3 1.695 7 0.607 5
    f10 1.223 8 0.486 8 1.708 7 0.586 6
    f11 1.315 3 0.557 3 1.657 5 0.550 0
    f12 1.822 2 0.784 5 1.789 1 0.630 9
    f13 1.811 6 0.809 6 1.842 0 0.663 2
    f14 1.457 7 0.604 9 1.690 5 0.577 8
    f15 2.429 8 1.558 3 3.075 9 1.743 0
    f16 1.592 0 0.565 6 1.610 3 0.542 3
    f17 1.466 3 0.531 3 2.057 5 0.660 3
    f18 1.056 5 0.451 4 1.629 4 0.548 2
    f19 1.137 2 0.503 1 1.686 1 0.527 3
    f20 7.436 3 6.396 9 7.672 2 4.935 2
    f21 1.094 0 0.499 4 1.725 3 0.625 7
    f22 1.206 6 0.469 9 1.714 8 0.606 3
    f23 2.099 1 0.730 8 1.945 9 0.653 1
    f24 2.431 1 0.886 2 1.926 9 0.660 2
    f25 2.345 6 0.844 4 1.907 0 0.801 1
    f26 1.644 6 0.702 3 1.896 1 0.771 7
    f27 2.347 2 0.842 2 2.255 4 0.765 6
    f28 2.400 9 1.023 1 2.555 3 1.133 8
    平均 1.797 7 0.859 4 2.046 7 0.833 5
    下载: 导出CSV

    表  6  ILFPSO与RLPSO算法的结果对比

    函数 方法 maxEFs Mean Std
    f1 ILFPSO 5×104 4.065 8×10-23 1.062 2×10-22
    RLPSO 1×105 1.23×10-13 2.82×10-13
    f3 ILFPSO 5×104 3.776 7×10-18 9.070 5×10-18
    RLPSO 1×105 9.02×10-8 2.92×10-8
    f7 ILFPSO 5×104 0 0
    RLPSO 1××105 1.56 1.37
    f9 ILFPSO 5×104 0 0
    RLPSO 1×105 1.63×10-2 1.98×10-2
    f11 ILFPSO 5×104 7.857 4×10-14 1.100 6×10-13
    RLPSO 1×105 4.99×10-8 2.66×10-8
    f19 ILFPSO 5×104 1.342 9×101 1.239 7×101
    RLPSO 1×105 2.03×102 5.86×102
    下载: 导出CSV
  • [1] 张新明, 涂强, 尹欣欣, 等.嵌入趋化算子的PSO算法及其在多阈值分割中的应用[J].计算机科学, 2016, 43(2):311-315. doi:  10.11896/j.issn.1002-137X.2016.02.065

    ZHANG Xin-ming, TU Qiang, YIN Xin-xin, et al. Chemotaxis operator embedded particle swarm optimization algorithm and its application to multilevel thresholding[J]. Computer Science, 2016, 43(2):311-315. doi:  10.11896/j.issn.1002-137X.2016.02.065
    [2] 夏学文, 刘经南, 高柯夫, 等.具备反向学习和局部学习能力的粒子群算法[J].计算机学报, 2015, 38(7):1397-1407. doi:  10.11897/SP.J.1016.2015.01397

    XIA Xue-wen, LIU Jing-nan, GAO Ke-fu, et al. Partucle swarm optimization algorithm with reverse-learning and local-learning behavior[J]. Chinese Journal of Computers, 2015, 38(7):1397-1407. doi:  10.11897/SP.J.1016.2015.01397
    [3] LIM W H, ISA N A M. Adaptive division of labor particle swarm optimization[J]. Expert System with Application, 2015, 42(14):5887-5903. doi:  10.1016/j.eswa.2015.03.025
    [4] TANWEER M R, SURESH S, SUNDARARAJAN N. Self regulating particle swarm optimization algorithm[J]. Information Science, 2015, 294:182-202. doi:  10.1016/j.ins.2014.09.053
    [5] JORDEHI A R. Enhanced leader PSO (ELPSO):a new PSO variant for solving global optimization problems[J]. Applied Soft Computing, 2015, 26:401-417. doi:  10.1016/j.asoc.2014.10.026
    [6] HAKLI H, UGUZ H. A novel particle swarm optimization algorithm with Levy Flight[J]. Applied Soft Computing, 2014, 23:333-345. doi:  10.1016/j.asoc.2014.06.034
    [7] 倪庆剑, 邓建明, 邢汉承.基于异构多种群策略的动态概率粒子群优化算法[J].模式识别与人工智能, 2014, 27(2):146-152. http://www.cnki.com.cn/Article/CJFDTOTAL-MSSB201402008.htm

    NI Qing-jian, DENG Jian-ming, XING Han-cheng. Dynamic probabilistic particle swarm optimization based on heterogeneous Multiple population strategy[J]. Pattern Recognition and Artificial Intelligence, 2014, 27(2):146-152. http://www.cnki.com.cn/Article/CJFDTOTAL-MSSB201402008.htm
    [8] 艾兵, 董明刚.基于高斯扰动和自然选择的改进粒子群优化算法[J].计算机应用, 2016, 36(3):687-691. doi:  10.11772/j.issn.1001-9081.2016.03.687

    AI Bing, DONG Ming-gang. Improved particle swarm optimization algorithm based on Gaussian disturbance and natural selection[J]. Journal of Computer Applications, 2016, 36(3):687-691. doi:  10.11772/j.issn.1001-9081.2016.03.687
    [9] ZHANG W, LIU J, FAN L B, et al. Control strategy PSO[J]. Applied Soft Computing, 2016, 38:75-86. doi:  10.1016/j.asoc.2015.09.030
    [10] TAHERKHANI M, SAFABAKHSH R. A novel stability-based adaptive inertia weight for particle swarm optimization[J]. Applied Soft Computing, 2016, 38:281-295. doi:  10.1016/j.asoc.2015.10.004
    [11] OMRAM M G H, MAHDAVI M. Global-best harmony search[J]. Applied Mathematics and Computation, 2008, 198(2):643-656. doi:  10.1016/j.amc.2007.09.004
    [12] 李景阳, 王勇, 李春雷.采用双模飞行的粒子群优化算法[J].模式识别与人工智能, 2014, 27(6):533-539. http://www.wenkuxiazai.com/doc/39a305a23169a4517623a380-2.html

    LI Jing-yang, WANG Yong, LI Chun-lei. Particle swarm optimization algorithm with double-flight modes[J]. Pattern Recognition and Artificial Intelligence, 2014, 27(6):533-539. http://www.wenkuxiazai.com/doc/39a305a23169a4517623a380-2.html
    [13] KIRAN M S, HAKLI H, GUNDUZ M, et al. Artificial bee colony algorithm with variable search strategy for continuous optimization[J]. Information Science, 2015, 300:140-157. doi:  10.1016/j.ins.2014.12.043
  • [1] 王鹏, 王方.  量子视角下的智能优化算法综述 . 电子科技大学学报, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
    [2] 鲁华祥, 尹世远, 龚国良, 刘毅, 陈刚.  基于深度确定性策略梯度的粒子群算法 . 电子科技大学学报, 2021, 50(2): 199-206. doi: 10.12178/1001-0548.2020420
    [3] 郜东瑞, 周晖, 冯李逍, 张云霞, 彭茂琴, 张永清.  基于特征融合和粒子群优化算法的运动想象脑电信号识别方法 . 电子科技大学学报, 2021, 50(3): 467-475. doi: 10.12178/1001-0548.2020107
    [4] 何羚, 舒文江, 陈良, 阎啸, 王茜.  改进的多目标粒子群优化算法及其在雷达布站中的应用 . 电子科技大学学报, 2020, 49(6): 806-811. doi: 10.12178/1001-0548.2020025
    [5] 王传兵, 张利嵩, 李翔, 岳松, 吴秉横.  基于粒子群算法的多层介质透波性能优化 . 电子科技大学学报, 2019, 48(4): 498-503. doi: 10.3969/j.issn.1001-0548.2019.04.004
    [6] 张云春, 王玉婧, 姚绍文, 李娜, 胡建陶.  基于粒子群优化的无线Mesh网络信道分配算法 . 电子科技大学学报, 2017, 46(5): 728-733, 746. doi: 10.3969/j.issn.1001-0548.2017.05.015
    [7] 肖海林, 任婵婵, 聂在平, 李民政.  基于线性权重粒子群优化算法的多基站协作波束成型 . 电子科技大学学报, 2015, 44(5): 663-667. doi: 10.3969/j.issn.1001-0548.2015.05.004
    [8] 李旻, 咸卫明, 龙兵, 王厚军.  基于特征优选模拟电路故障诊断方法 . 电子科技大学学报, 2014, 43(4): 557-561. doi: 10.3969/j.issn.1001-0548.2014.04.015
    [9] 敖永才, 师奕兵, 张伟, 李焱骏.  自适应惯性权重的改进粒子群算法 . 电子科技大学学报, 2014, 43(6): 874-880. doi: 10.3969/j.issn.1001-0548.2014.06.014
    [10] 刘强, 马家辰, 谢玮, 马立勇.  混合粒子群优化算法和案例推理方法的多机器人学习 . 电子科技大学学报, 2014, 43(1): 137-143. doi: 10.3969/j.issn.1001-0548.2014.01.023
    [11] 阳凯, 赵志钦, 聂在平.  基于模糊离散粒子群算法的非均匀阵列优化 . 电子科技大学学报, 2012, 41(1): 43-47. doi: 10.3969/j.issn.1001-0548.2012.01.009
    [12] 王维博, 冯全源.  粒子群优化算法在天线方向图综合中的应用 . 电子科技大学学报, 2011, 40(2): 237-241. doi: 10.3969/j.issn.1001-0548.2011.02.016
    [13] 胡建, 李志蜀, 欧鹏, 罗思达.  粒子群优化算法中的分步式策略 . 电子科技大学学报, 2009, 38(3): 435-440. doi: 10.3969/j.issn.1001-0548.2009.03.028
    [14] 周欣然, 滕召胜, 易钊.  粒子群优化的广义T-S模糊模型参数学习方法 . 电子科技大学学报, 2008, 37(4): 569-573.
    [15] 刁鸣, 高洪元, 马杰, 缪善林.  应用神经网络粒子群算法的多用户检测 . 电子科技大学学报, 2008, 37(2): 178-180,281.
    [16] 郑晓鸣, 吕士颖, 王晓东.  免疫接种粒子群的聚类算法 . 电子科技大学学报, 2007, 36(6): 1264-1267.
    [17] 吕士颖, 郑晓鸣, 王晓东.  基于免疫量子粒子群优化的属性约简 . 电子科技大学学报, 2007, 36(6): 1268-1272.
    [18] 李明, 张勇, 李军权, 张亚芬.  改进PSO-SVM在说话人识别中的应用 . 电子科技大学学报, 2007, 36(6): 1345-1349.
    [19] 任诚, 唐普英, 方峻.  拉伸技术粒子群优化算法的多用户检测器 . 电子科技大学学报, 2007, 36(5): 915-917.
    [20] 沈艳, 郭兵, 古天祥.  粒子群优化算法及其与遗传算法的比较 . 电子科技大学学报, 2005, 34(5): 696-699.
  • 加载中
图(3) / 表(6)
计量
  • 文章访问数:  4232
  • HTML全文浏览量:  1220
  • PDF下载量:  150
  • 被引次数: 0
出版历程
  • 收稿日期:  2017-01-13
  • 修回日期:  2017-02-27
  • 刊出日期:  2018-05-30

趋优算子和Levy Flight混合的粒子群优化算法

doi: 10.3969/j.issn.1001-0548.2018.03.016
    基金项目:

    河南省重点科技攻关项目 132102110209

    河南省基础与前沿技术研究计划 142300410295

    作者简介:

    张新明(1963-), 男, 教授, 主要从事智能优化算法和数字图像处理方面的研究

  • 中图分类号: TP181

摘要: 针对Levy Flight粒子群优化算法(LFPSO)普适性不强和搜索效率不高等问题,提出了一种改进的LFPSO算法(ILFPSO),即趋优算子与Levy Flight混合的粒子群优化算法。首先,对Levy Flight进行改进,防止产生无效解,得到改进的Levy Flight;然后,将既有一定全局搜索能力又有较强局部搜索能力的趋优算子与改进的Levy Flight有机融合,以便更好地平衡算法的全局和局部搜索能力;最后,对速度边界动态调整,有利于搜索前期找到全局最优点和搜索后期找到局部最优解。28个benchmark函数优化仿真结果表明,与4种最先进的PSO改进算法LFPSO、ELPSO、SRPSO和RLPSO相比,ILFPSO更具有竞争性的优化性能、更好的普适性和更快的运行速度。

English Abstract

张新明, 王霞, 涂强, 康强. 趋优算子和Levy Flight混合的粒子群优化算法[J]. 电子科技大学学报, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
引用本文: 张新明, 王霞, 涂强, 康强. 趋优算子和Levy Flight混合的粒子群优化算法[J]. 电子科技大学学报, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
ZHANG Xin-ming, WANG Xia, TU Qiang, KANG Qiang. Particle Swarm Optimization Algorithm Based on Combining Global-Best Operator and Levy Flight[J]. Journal of University of Electronic Science and Technology of China, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
Citation: ZHANG Xin-ming, WANG Xia, TU Qiang, KANG Qiang. Particle Swarm Optimization Algorithm Based on Combining Global-Best Operator and Levy Flight[J]. Journal of University of Electronic Science and Technology of China, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
  • 使用传统的优化方法已经无法有效地解决现实中的许多优化问题,因此,近年来引进了大量的自然启发式算法。自然启发式算法又称为智能优化算法,受启发于自然界生物的社会行为等。粒子群优化(particle swarm optimization, PSO)算法[1]作为较早的自然启发式算法,它模拟了鸟群或鱼群捕食时的社会行为。该算法因需调整的参数较少和易于实施的优势在许多优化问题上被广泛使用,但仍然存在早熟收敛、极易陷入局部最优等问题。针对PSO存在的问题,研究人员已经提出了许多基于PSO的改进算法[2-10],目的在于提高PSO的优化性能。文献[2]通过反向学习与局部学习的协同行为,提出了具有反向学习和局部学习能力的PSO算法(reverse- learning and local-learning PSO, RLPSO)。文献[3]结合自适应劳动分工模块,采用凸算子和反射算子,提出了自适应劳动分工的PSO算法。文献[4]将PSO与两种人类最好的学习策略(包括自我调节惯性权重、在全局搜索方向进行自我认知)进行结合实现算法的快速收敛,提出了一种自我调节PSO算法(self regulating PSO, SRPSO)。文献[5]针对PSO的早熟收敛问题,引进5次连续变异策略,提出了一种增强领导者的PSO算法(enhanced leader PSO, ELPSO)。文献[6]结合PSO和Levy Flight算子,提出了嵌入Levy Flight的PSO算法(PSO with Levy Flight, LFPSO)。文献[7]结合动态概率PSO算法的特点,提出了一种基于异构多种群策略的DPPSO算法。文献[10]提出了一种自适应惯性权重策略,每一个粒子在不同维都有它自己的惯性权重,是一种新的基于自适应惯性权重的PSO算法。但以上算法或多或少存在如下问题:优化效率不高,普适性不强等。另外,在现有的改进算法中,许多是对PSO的基本参数进行研究和改进,以便提高算法的性能。在PSO参数研究文献中,对惯性权重ω、学习因子c1c2参数研究较多,但对速度边界参数$ {V_{\max }} $和${V_{\min }} $研究甚少。

    本文针对LFPSO存在的问题,首先改进Levy Flight,然后引进趋优算子,并使趋优算子与改进的Levy Flight算子交替执行;最后对固定速度边界采用动态调整策略,构成改进的LFPSO(improved LFPSO, ILFPSO)算法。

    • LFPSO算法[6]将Levy Flight嵌入到PSO算法中,用于解决PSO的早熟收敛和全局搜索能力不足的问题。Levy Flight是一种非高斯随机过程,是从Levy稳定分布中提取的随机游走方式,确保了PSO可以更有效地进行全局搜索而不会陷入局部停滞。LFPSO算法为每个粒子的试验次数设置一个阈值,在阈值以内的粒子速度与其位置更新如下:

      $$ \begin{array}{c} V_{i, d}^{t + 1} = wV_{i, d}^t + {c_1}{\rm{ran}}{{\rm{d}}_1}({\rm{pbest}}_{i, d}^t - X_{i, d}^t) + \\ {c_2}{\rm{ran}}{{\rm{d}}_2}({\rm{gbest}}_d^t - X_{i, d}^t) \end{array} $$ (1)
      $$ X_{i, d}^{t + 1} = X_{i, d}^t + V_{i, d}^{t + 1} $$ (2)

      而超出阈值时,粒子则执行Levy Flight操作,对粒子的位置进行重新分配:

      $$ {X^{t + 1}} = {X^t} + {\rm{random}}({\rm{size}}(n)) \oplus {\rm{Levy}}(\beta ) $$ (3)

      式中,符号$ \oplus $表示数组中每个对应元素的乘法运算。LFPSO算法的基本流程图如图 1所示。其中,trial(i)表示第i个粒子当前的试验次数,limit表示为每个粒子设置的阈值。值得注意的是:若更新后的粒子较优,trial(i)重置为0,否则trial(i)就加1。

      图  1  LFPSO算法流程图

    • LFPSO存在的两大问题:1)由于Levy步长的计算公式中参数b的取值范围为(0, 2),不合适,有可能产生无效解。2)由于LFPSO是针对原始的PSO全局搜索能力差的问题引进Levy Flight,用于提高全局搜索能力;虽然全局能力有所提升,但仍然存在收敛速度慢,优化效率低和普适性不强的问题,其主要原因是探索与开采没有达到平衡。现代智能优化算法不是仅追求全局搜索能力或者局部搜索能力单方面的提升,而是考虑二者的平衡,这样才能提高算法的整体优化性能。针对以上问题,ILFPSO有3点创新:

      1) 改进Levy Flight以减少无效解;

      2) 将既有一定的全局搜索能力又有较强的局部搜索能力的趋优算子与改进的Levy Flight融合,使其全局搜索能力和局部搜索能力同时提高,二者达到平衡;

      3) 将LFPSO中固定的速度边界改为动态调整,以便搜索前期易于找到全局最优点,后期容易获得局部最优解,也用于平衡探索与开采能力。

    • Levy Flight作为一种随机游走方式,其长跳跃的搜索方式与偶尔短跳跃的搜索方式交叉执行,保证了算法能够及时跳出局部最优点,扩大了粒子的搜索范围。Levy分布中,参数β影响较大,其小值执行长距离跳跃,防止陷入局部最小值。由于Levy步长中β的取值范围是(0, 2],不够合适,在低值区域易产生无效的σ,最终产生无效的粒子。本文将Levy分布中参数β的取值范围更精确选择为[0.1, 2],防止产生无效解。参数β取值的程序伪代码见算法1。

      算法1:β取值限定

      rnd=rand;

      While rnd < 0.05 do

          rnd=rand;

      end;

      求解Levy分布中的β值:β=2*rnd;

      根据式(4)求解步长s

      其中,rand表示在区间[0, 1]中均匀分布的随机数。Levy分布中的步长s为:

      $$ \begin{array}{c} s = {\rm{random}}({\rm{size}}(n)) \oplus {\rm{Levy}}(\beta ) \sim \\ 0.01\frac{u}{{|v{|^{1/\beta }}}}(x_j^t - {\rm{gbes}}{{\rm{t}}^t}) \end{array} $$ (4)

      式中,uv分别服从正态分布[6]

      $$ u \sim N(0, \sigma _u^2), \;\;v \sim N(0, \sigma _v^2) $$ (5)

      式中,

      $$ \left\{ \begin{align} & {{\sigma }_{u}}={{\left[ {\mathit{\Gamma} \text{(}1+\beta \text{)}\sin \left( \frac{\text{ }\!\!\mathtt{π}\!\!\text{ }\beta }{2} \right)}/{\mathit{\Gamma} \left( \frac{1+\beta }{2} \right)\beta {{2}^{{(\beta -1)}/{2}\;}}}\; \right]}^{{1}/{\beta }\;}} \\ & {{\sigma }_{v}}=1 \\ \end{align} \right. $$ (6)

      式中,Γ是标准的伽马函数。从式(4)中获得步长s值来更新第i个粒子Xi的位置。

      通过分析可知,参数β影响着σ的取值。通过大量的实验发现:

      1) β取值为区间[0, 0.000 3]之间的随机数时,σ为无穷值(即无效),导致s为无效值。

      2) β取值为区间[0.000 3, 0.1]之间的随机数时,σ过大,它又导致两种结果:① s过大,随机步长过大,此跳跃无意义;② s趋于0,使此跳跃在实质上未发生。为了能更清晰地看出参数βσ值的影响,参数β取[0.05, 0.1]之间的数,βσ值的影响曲线如图 2所示。从图 2可知,随着参数β减少,σ值呈指数级增加,进而无效。

      图  2  参数βσ值的关系曲线

    • 文献[11]提出了一种全局最优和声搜索算法,该算法首次使用了趋优算子,见算法2,通过将最优和声的信息赋给当前和声,提高了搜索能力。从算法2可知,趋优算子充分地利用了群体历史最优解的位置信息,从解的角度向群体中当前最优解趋近,故称趋优算子[11-12];从维的角度发生突变,通过随机选取最优解中某一维度的值直接替换当前维度的值,提高全局搜索能力。此算子主要体现在局部搜索能力上,全局搜索能力有限,所以从总体上讲,更侧重于提高算法优化精度和收敛速度。

      算法2:趋优算子

      每次迭代时随机产生的趋优概率pa;

      for 1 to n do

          if rand > pa

            产生一个随机维数;

            将全局最优解中随机维的值赋给当前维;

          end

      end

      其中,n表示维数。

    • 使用趋优概率pa将Levy算子与趋优算子交替运行。当均匀分布在[0, 1]中的随机数小于0.5时,趋优概率pa取值为0.5,否则取值为0.99。采取这样的随机选取方式,减少了人工选取pa参数的过程。下面分别对两种趋优概率的情况进行分析:

      1) 当pa=0.5时,趋优算子与Levy算子交替运行的概率均等。若随机数大于pa值,执行趋优算子,获取一个随机维,将全局最优解随机维的值赋给当前维。此时,当前粒子向当前最优位置趋近,加快了收敛速度。若小于pa值,执行Levy算子,提高全局搜索能力。两种算子的交叉执行,提高了算法的整体搜索能力。

      2) 当pa=0.99时,趋优算子运行的概率极小,多数情况下仅执行改进的Levy Flight操作,更强化全局搜索,且改进的Levy Flight算子防止产生无效解。

    • 本文将LFPSO算法中的恒定速度边界值改为对速度的边界动态更新。首先设置动态边界的极值(最大值v0和最小值v1),然后动态调整,随着迭代次数的增加,速度的上边界Vmax由大变小。在每次迭代中,对粒子的速度边界更新公式为:

      $$ {V_{\max }} = {v_0} - t\frac{{{v_0} - {v_1}}}{{{\rm{MaxDT}}}} $$ (7)
      $$ {V_{\min }} = - {V_{\max }} $$ (8)

      式中,$ {V_{\min }} $为速度的下边界;t为当前迭代次数;MaxDT为最大迭代次数。原算法中,固定的速度边界值不利于探索与开采的平衡。而在ILFPSO中,由于引进了动态更新机制,前期阶段,算法中的粒子分布范围较为广泛,根据式(2),若粒子速度大,其位置变化范围大,即扩大了粒子的搜索空间,增加了找到全局最优值的概率;而在后期阶段,粒子分布相较于前期较为集中,粒子速度小,其位置变化范围小,即缩减了搜索空间的范围,增加了粒子寻找局部最优值的概率,提高了搜索精度,从而提高了局部搜索能力。因此,动态的速度边界调整机制有利于寻找全局和局部最优解,即前期有利于搜索全局最优解,后期能加快算法的收敛速度。

    • 基于以上3点创新,ILFPSO的算法流程如下:

      1) 初始化参数。参数包括学习因子c1c2、试验次数trail、阈值limit等。2)随机初始化种群的位置和速度,计算适应度值,选择个体历史最优值pbest和全局最优值gbest。3)用式(7)和式(8)动态更新速度边界,随机选取趋优概率pa的值。4)若trail(i)未超过limit,则对粒子的速度和位置按式(2)更新,并进行边界检查。否则执行流程5),并将trail(i)重置为0。5)当随机数大于pa,则执行趋优算子,否则执行改进的Levy Flight算子。6)计算粒子的适应度值,更新trail(i),并更新个体历史最优解pbest和全局最优解gbest。7)判断是否满足终止准则,若满足则算法终止,否则返回流程3)。

      ILFPSO融入了3点创新,提升了优化效率,较好地平衡了探索与开采能力,提高了算法整体性能。

    • 为测试本文提出的ILFPSO算法的寻优能力,选用4类benchmark函数进行仿真实验,分别为:单峰函数、多峰函数、平移函数和旋转函数[13]表 1表 2给出了这4类28个benchmark函数的名称、搜索范围和理论最优值(Fmin)情况,函数的相关表达式见文献[3-6, 13]。单峰函数只有一个全局最优点,适合用于评估算法的开采能力;多峰函数有多个局部最优点,适合用于评估算法的探索能力;平移函数和旋转函数用于评估优化算法解决复杂优化问题的能力。

      表 1  单峰和多峰benchmark函数信息表

      No. 函数 范围 Fmin
      f1 Sphere [-100, 100] 0
      f2 Sum Square [-10, 10] 0
      f3 Schwefel2.22 [-10, 10] 0
      f4 Schwefel2.21 [-100, 100] 0
      f5 Step [-100, 100] 0
      f6 Quartic [-1.28, 1.28] 0
      f7 Rastrigin [-5.12, 5.12] 0
      f8 NCRastrigin [-5.12, 5.12] 0
      f9 Griewank [-600, 600] 0
      f10 Schwefel2.26 [-500, 500] 0
      f11 Ackley [-32, 32] 0
      f12 Penalized1 [-50, 50] 0
      f13 Penalized2 [-50, 50] 0
      f14 Levy [-10, 10] 0
      f15 Styblinskitang [-10, 10] -78.332 3
      f16 Dixonprice [-10, 10] 0
      f17 Zakharow [-5, 10] 0
      f18 Schwefel1.2 [-100, 100] 0
      f19 Rosenbrock [-10, 10] 0
      f20 Weierstrass [-0.5, 0.5] 0
      f21 Exponential [-1.28, 1.28] 0
      f22 Scaffer [-100, 100] 0

      表 2  平移和旋转benchmark函数信息表

      No. 函数 范围 Fmin
      f23 Shifted Sphere [-100, 100] -450
      f24 Shifted Schwefel2.21 [-100, 100] -450
      f25 Shifted Rastrigin [-5.12, 5.12] -330
      f26 Rotated Rastrigin [-5.12, 5.12] 0
      f27 Rotated Ackley [-32, 32] 0
      f28 Rotated Griewank [-600, 600] 0

      选取这28个benchmark函数,目的在于检测ILFPSO算法的优化性能,通过与国外学者提出的LFPSO算法、增强领导者粒子群算法(ELPSO)、自我调节粒子群优化算法(SRPSO)进行优化性能、收敛性、运行时间的对比,验证ILFPSO的优越性。所有的仿真实验均在操作系统为Windows 7、CPU为主频为3.10 GHz和内存为4 GB的PC上进行,编程语言采用MATLAB R2014a。

    • 为了控制参数对各个算法性能的影响,也为了公平起见,所有算法的最大迭代次数都设为2 500,种群数量都设为20,函数的维数n设为30。ILFPSO最大速度初值v0和终值v1分别设置为位置边界最大长度的20%和0.1%,学习因子c1c2和惯性权重因子w同LFPSO参数设置。LFPSO、ELPSO和SRPSO参数设置见相应的参考文献。表 3表 4分别给出了4种算法在28个benchmark函数上30次独立运行的寻优结果减去理想最优值(Fmin)后(除f15以外)的最大值(Max)、最小值(Min)、均值(Mean)和方差(Std),其中黑体代表算法中的最优者。

      表 3  4种函数对单峰和多峰函数的性能测试结果

      函数 Opt Max Min Mean Std
      f1 LFPSO 9.779 5×10-20 4.699 0×10-26 6.687 2×10-21 1.820 4×10-20
      ELPSO 3.680 8×10-9 3.709 1×10-12 4.210 4x 10-10 8.627 9×10-10
      SRPSO 1.896 9×10-8 4.929 3×10-11 4.0797×10-9 5.220 7×10-9
      ILFPSO 4.876 1×10-22 6.375 7×10-29 4.065 8×10-23 1.062 2× 10-22
      f2 LFPSO 1.925 1x 10-19 1.919 0×10-26 7.804 9×10-21 3.542 6×10-20
      ELPSO 4.860 4×10-9 1.036 2×10-12 2.231 1×10-10 8.799 3×10-10
      SRPSO 1.560 6×10-8 8.491 9×10-12 9.806 8×10-10 2.918 9×10-9
      ILFPSO 1.360 1×10-21 2.031 9×10-32 7.378 9×10-23 2.689 9×10-22
      f3 LFPSO 1.209 8×10-5 2.608 9×10-13 4.482 4×10-7 2.205 2×10-6
      ELPSO 1.778 4×10-4 1.396 0×10-8 9.017 9×10-6 3.276 6×10-5
      SRPSO 1.346 4×10-4 2.117 7×10-7 9.163 3×10-6 2.731 1×10-5
      ILFPSO 4.651 7×10-17 4.035 6×10-20 3.776 7×10-18 9.070 5× 10-18
      f4 LFPSO 2.000 0×101 1.7327×10-6 5.538 8 7.089 0
      ELPSO 5.990 8 1.678 8 4.018 7 1.075 9
      SRPSO 7.328 0 5.360 0×10-1 4.594 9 2.878 6
      ILFPSO 4.197 2×10-1 2.616 3×10-2 1.554 8×10-1 8.986 9×10-2
      f5 LFPSO 1 0 6.666 7×10-2 2.537 1×10-1
      ELPSO 1 0 1.666 7×10-1 3.790 5×10-1
      SRPSO 3 0 1.333 3 1.124 4
      ILFPSO 0 0 0 0
      f6 LFPSO 4.118 9×10-2 1.041 2×10-2 2.185 6×10-2 7.969 0×10-3
      ELPSO 5.873 2×10-2 7.380 6×10-3 2.980 6×10-2 1.160 6×10-2
      SRPSO 1.825 3×10-2 3.1167×10-3 9.159 2×10-3 3.803 2×10-3
      ILFPSO 1.056 9×10-2 1.712 7×10-3 4.809 3×10-3 2.372 4×10-3
      f7 LFPSO 4.309 7×101 2.318 3×101 3.247 9×101 4.795 1
      ELPSO 6.666 2×101 2.885 4×101 4.729 4×101 1.111 6×101
      SRPSO 5.805 0×101 1.591 9×101 3.256 4×101 9.281 6
      ILFPSO 0 0 0 0
      f8 LFPSO 3.200 0×101 1.8944×101 2.722 7×101 2.334 1
      ELPSO 8.514 4×101 2.100 0×101 4.498 7×101 1.6909×101
      SRPSO 5.500 0×101 2.000 0×101 3.0801×101 7.782 1
      ILFPSO 0 0 0 0
      f9 LFPSO 6.869 7×10-2 0 1.572 6×10-2 1.825 3×10-2
      ELPSO 1.006 2×10-1 4.457 9×10-12 1.971 5×10-2 2.613 0×10-2
      SRPSO 3.920 2×10-2 3.604 9×10-11 6.562 8×10-3 9.130 5×10-3
      ILFPSO 0 0 0 0
      f10 LFPSO 5.530 2×103 1.658 2×103 3.941 7×103 9.222 5×102
      ELPSO 5.389 1×103 2.191 1×103 3.746 7×103 6.695 7×102
      SRPSO 3.158 1×103 7.106 3×102 1.680 5×103 4.688 5×102
      ILFPSO 0 1.819 0×10-12 9.094 9×10-13 9.250 4×10-13
      f11 LFPSO 1.159 2 4.254 4×10-13 1.156 9×10-1 3.530 1×10-1
      ELPSO 2.013 3 7.321 6×10-7 2.846 9×10-1 5.612 7×10-1
      SRPSO 5.869 4×10-5 2.277 2×10-7 8.244 5×10-6 1.294 5×10-5
      ILFPSO 3.934 6×10-13 6.217 2×10-15 7.857 4×10-14 1.100 6×10-13
      f12 LFPSO 1.036 7×10-1 8.824 4×10-26 1.727 8×10-2 3.929 6×10-2
      ELPSO 5.191 2×10-1 3.294 0×10-14 4.149 3×10-2 1.041 5×10-1
      SRPSO 3.109 6×10-1 8.327 0×10-14 1.036 5×10-2 5.677 4×10-2
      ILFPSO 2.939 6×10-24 1.598 2×10-30 1.671 8×10-25 5.803 9×10-25
      f13 LFPSO 1.098 7×10-2 1.471 3×10-24 2.197 6×10-3 4.470 0×10-3
      ELPSO 1.098 7×10-2 4.310 9×10-12 2.930 0×10-3 4.941 9×10-3
      SRPSO 1.098 7×10-2 2.899 9×10-13 3.296 2×10-3 5.121 1×10-3
      ILFPSO 1.382 4×10-22 3.251 5×10-30 1.031 3×10-23 3.378 0×10-23
      f14 LFPSO 2.474 4×10-1 1.720 1×10-27 1.649 6×10-2 6.277 7×10-2
      ELPSO 2.474 4×10-1 4.117 9×10-13 1.649 6×10-2 6.277 7×10-2
      SRPSO 6.970 4×10-11 7.015 5×10-14 1.158 7×10-11 1.812 7×10-11
      ILFPSO 8.166 5×10-18 7.122 2×10-31 2.724 0×10-19 1.491 0×10-18
      f15 LFPSO -5.936 3×101 -6.537 6×101 -6.164 3×101 1.426 6
      ELPSO -7.806 5×101 -7.831 4×101 -7.826 6×101 5.618 0×10-2
      SRPSO -6.191 7×101 -6.786 4×101 -6.472 6×101 1.616 2
      ILFPSO -7.833 2×101 -7.833 2×101 -7.833 2×101 1.516 3×10-5
      f16 LFPSO 1.230 9 6.666 7×10-1 6.855 6×10-1 1.030 0×10-1
      ELPSO 3.274 4 4.399 8×10-7 4.231 1×10-1 8.206 0×10-1
      SRPSO 6.728 5×10-1 6.666 7×10-1 6.668 8×10-1 1.128 4×10-3
      ILFPSO 1.101 8 1.097 6×10-6 3.050 0×10-1 3.6001×10-1
      f17 LFPSO 2.535 9 1.975 3×10-1 8.012 9×10-1 5.089 0×10-1
      ELPSO 3.439 7 2.910 9×10-1 1.636 2 7.970 3×10-1
      SRPSO 4.844 9×10-1 9.818 6×10-2 2.250 0×10-1 9.448 7×10-2
      ILFPSO 3.826 2×10-2 9.742 7×10-3 2.057 7×10-2 7.372 7×10-3
      f18 LFPSO 1.398 2×102 1.100 3×101 3.518 8×101 2.470 4×101
      ELPSO 5.842 5×102 6.973 6×101 2.409 9×102 1.325 1×102
      SRPSO 1.631 2×102 2.231 8×101 6.598 4×101 3.519 4×101
      ILFPSO 3.404 5×101 3.791 4 1.501 8×101 6.099 2
      f19 LFPSO 8.272 4×101 1.013 1 3.457 3×101 2.547 5×101
      ELPSO 8.188 4×101 1.475 4×10-2 2.850 6×101 3.290 2×101
      SRPSO 8.370 7×101 2.320 3×101 2.933 5×101 1.451 5×101
      ILFPSO 2.550 1×101 1.099 8×10-3 1.342 9×101 1.239 7×101
      f20 LFPSO 1.607 9 2.487 5×10-3 2.417 1×10-1 4.243 0×10-1
      ELPSO 2.298 6×10-3 9.708 4×10-5 7.838 7×10-4 5.556 1×10-4
      SRPSO 1.500 9×10-1 9.974 1×10-4 3.660 3×10-2 4.176 4×10-2
      ILFPSO 0 0 0 0
      f21 LFPSO 1.034 4×10-5 0 7.205 1×10-7 2.155 1×10-6
      ELPSO 1.779 4×10-8 0 1.112 6×10-9 4.040 1×10-9
      SRPSO 2.918 7×10-5 2.220 4×10-16 4.716 5×10-6 8.075 2×10-6
      ILFPSO 3.878 1×10-6 1.065 8×10-14 3.443 4×10-7 7.972 1×10-7
      f22 LFPSO 1.782 2×10-1 7.818 9×10-2 1.392 7×10-1 3.417 8×10-2
      ELPSO 2.727 4×10-1 1.269 9×10-1 1.557 0×10-1 3.627 1×10-2
      SRPSO 1.269 9×10-1 7.818 9×10-2 8.472 4×10-2 1.686 3×10-2
      ILFPSO 7.818 9×10-2 9.715 9×10-3 3.358 6×10-2 1.341 8×10-2

      表 4  种算法对平移和旋转函数的性能测试结果

      函数 Opt Max Min Mean Std
      f23 LFPSO 4.569 0 3.137 1×10-6 2.867 3×10-1 9.843 4×10-1
      ELPSO 1.775 4×10-8 3.638 0×10-12 1.260 8×10-9 3.565 4×10-9
      SRPSO 3.615 0×10-7 4.629 3×10-10 2.845 6×10-8 7.237 0×10-8
      ILFPSO 1.995 1×10-6 3.798 2×10-9 3.680 2×10-7 5.759 2×10-7
      f24 LFPSO 5.667 5 3.296 9×10-12 2.377 3 1.771 9
      ELPSO 6.782 6 1.643 4 3.801 7 1.091 3
      SRPSO 2.228 9 4.674 4×10-1 1.126 1 4.201 5×10-1
      ILFPSO 1.515 7 5.768 3×10-1 9.560 1×10-1 2.223 5×10-1
      f25 LFPSO 1.469 1×102 3.689 6×101 6.808 8×101 2.706 5×101
      ELPSO 7.064 2×101 2.089 4×101 4.444 2×101 1.316 2×101
      SRPSO 9.949 6×101 2.686 4×101 5.405 9×101 1.794 4×101
      ILFPSO 5.797 1×101 1.839 0×101 3.098 6×101 8.728 1
      f26 LFPSO 1.573 7×102 1.076 5×102 1.384 8×102 1.190 7×101
      ELPSO 2.166 9×102 7.011 6×101 1.410 3×102 3.676 4×101
      SRPSO 2.041 9×102 6.545 7×101 1.566 0×102 3.972 5×101
      ILFPSO 1.408 1×102 2.242 3×101 8.325 9×101 2.711 9×101
      f27 LFPSO 4.255 3 1.778 0 3.004 5 7.429 3×10-1
      ELPSO 4.855 0 1.378 7 2.943 9 8.077 2×10-1
      SRPSO 2.579 9 1.947 0×10-5 1.173 4 7.363 2×10-1
      ILFPSO 2.221 0 9.556 8×10-13 2.824 5×10-1 6.525 5×10-1
      f28 LFPSO 6.607 2×10-2 4.354 4×10-11 1.540 4×10-2 1.693 6×10-2
      ELPSO 5.812 9×10-1 8.855 1×10-3 2.460 7×10-1 1.282 0×10-1
      SRPSO 3.933 8×10-2 1.907 2×10-5 1.051 5×10-2 1.014 0×10-2
      ILFPSO 2.698 7×10-2 6.450 8×10-12 3.033 5×10-3 6.807 5×10-3

      采用单峰函数进行算法的性能测试,主要是检测算法的局部搜索能力和收敛精度。4种算法在7个单峰函数f1~f6f19上的性能测试数据看出,在Max、Min、Mean和Std上,与LFPSO、ELPSO、SRPSO相比,ILFPSO均表现了优异的开采能力。这说明具有较强局部搜索能力的趋优算子融合到Levy Flight中和动态调整速度边界这两项改进是有效的,提高了算法的局部搜索能力和收敛精度,尤其在f3f4f19上大幅度领先于LFPSO。

      通过使用15个多峰函数f7~f18f20~f22对4种算法进行性能测试,以检验算法的全局搜索能力。对于多峰函数f7~f15f17f18f20f22,ILFPSO明显优于其他3种对比算法,效果最好。在Max、Min和Mean上,ILFPSO均获得了最小值,说明该算法在求解多峰函数时全局搜索能力较强。在Std上,ILFPSO也都获得了最小的值,这说明其稳定性最强。当求解函数f16f21时,ILFPSO的性能测试结果相对来说稍差,但对于求解函数f16时,在Mean上,ILFPSO获得了最好的结果;在Std上,则是SRPSO表现了最优的性能,ILFPSO次之;在Max上,SRPSO获得了最好的值,ILFPSO次之;在Min上,ELPSO获得了最小的值,ILFPSO次之。而对于函数f21,ELPSO表现的寻优能力最优,ILFPSO次之。但是相对于LFPSO,ILFPSO具有更强的搜索能力,这说明趋优算子与Levy Flight算子融合是有效的,能很好地平衡全局和局部搜索能力,使得算法整体优化性能得到了大幅度的提高。

      通过求解6个平移和旋转函数以检验ILFPSO解决复杂优化问题的能力,结果如表 4所示。从表 4可以看出,在求解函数f24f25f27f28时,在Max、Min、Mean和Std上,ILFPSO均优于其他3种对比算法;在求解函数f23时,ELPSO表现出了最佳的寻优能力,ILFPSO稍差;而在求解f26时,在Max、Min和Mean上,ILFPSO最佳。相对于LFPSO,在所有的6个复杂函数f23~f28上,ILFPSO表现更优。这说明ILFPSO解决复杂优化问题的能力具有较强的竞争力。

      综上所述,本文提出的ILFPSO算法在28个benchmark函数中的25个函数上都获得了最优的性能,充分证明了ILFPSO的普适性较强。虽然对于求解个别benchmark函数仍存在相对较差的性能,但在求解所有28个benchmark函数上,ILFPSO优于LFPSO,整体上说明本文提出的3点改进可行。

    • 为更清晰地看出ILFPSO算法的收敛性能,实验给出了4种算法在求解所有函数时的收敛曲线图,如图 3所示。因版面限制,只从4类benchmark函数中选取6个函数进行展示,将平均适应度值(对于函数f25,每次的结果减去Fmin再进行平均)作为评估算法性能的主要参考值,测试迭代次数为2 500时算法的收敛性能。

      图  3  4种算法在4类benchmark函数上的收敛曲线图

      图 3可以看出,ILFPSO在对f5f7f27等函数进行优化时收敛速度大幅度优于其他3种对比算法;而针对f1f10f25等函数,ILFPSO收敛性能也明显优于其他对比算法。另外,虽然ILFPSO在优化f21f23等函数时收敛性能稍差,ELPSO最好,但ILFPSO紧跟其后,排在第2位。从整体情况来看,ILFPSO在28个函数上的收敛性能都优于LFPSO,这些再一次证明ILFPSO的改进策略是有效的。

    • 4种优化算法的运行时间结果如表 5所示。从表 5可以看出,当求解单峰函数f1~f6f19时,ELPSO的运行速度最快,ILFPSO的运行速度次之,但ILFPSO大幅度领先另外2种对比算法LFPSO和SRPSO。

      表 5  4种优化算法运行时间对比

      函数 运行时间/s
      LFPSO ELPSO SRPSO ILFPSO
      f1 0.872 2 0.384 5 1.577 0 0.510 0
      f2 1.839 0 0.472 9 1.603 9 0.541 1
      f3 1.074 5 0.443 7 1.673 3 0.517 6
      f4 1.034 7 0.428 5 1.717 4 0.579 3
      f5 1.061 8 0.436 8 1.429 3 0.588 9
      f6 1.656 7 0.802 1 1.882 7 0.848 7
      f7 1.183 2 0.489 0 1.702 9 0.561 1
      f8 1.377 4 0.590 0 1.678 1 0.601 8
      f9 1.919 2 0.766 3 1.695 7 0.607 5
      f10 1.223 8 0.486 8 1.708 7 0.586 6
      f11 1.315 3 0.557 3 1.657 5 0.550 0
      f12 1.822 2 0.784 5 1.789 1 0.630 9
      f13 1.811 6 0.809 6 1.842 0 0.663 2
      f14 1.457 7 0.604 9 1.690 5 0.577 8
      f15 2.429 8 1.558 3 3.075 9 1.743 0
      f16 1.592 0 0.565 6 1.610 3 0.542 3
      f17 1.466 3 0.531 3 2.057 5 0.660 3
      f18 1.056 5 0.451 4 1.629 4 0.548 2
      f19 1.137 2 0.503 1 1.686 1 0.527 3
      f20 7.436 3 6.396 9 7.672 2 4.935 2
      f21 1.094 0 0.499 4 1.725 3 0.625 7
      f22 1.206 6 0.469 9 1.714 8 0.606 3
      f23 2.099 1 0.730 8 1.945 9 0.653 1
      f24 2.431 1 0.886 2 1.926 9 0.660 2
      f25 2.345 6 0.844 4 1.907 0 0.801 1
      f26 1.644 6 0.702 3 1.896 1 0.771 7
      f27 2.347 2 0.842 2 2.255 4 0.765 6
      f28 2.400 9 1.023 1 2.555 3 1.133 8
      平均 1.797 7 0.859 4 2.046 7 0.833 5

      在求解多峰函数f7f8f10f15f17f18f21f22时,ELPSO运行速度最快,而求解f9f11~f14f16f20时,ILFPSO运行速度最快;当求解平移和旋转函数f23~f25f27时,ILFPSO耗时最少,求解旋转函数f26f28时,ELPSO耗时最少,但二者相差不大。从表 5最后一行看,ILFPSO的平均运行时间是0.833 5 s,是4种算法中耗时最少的,约为LFPSO(1.797 7 s)的50%,其主要原因见3.5节计算复杂度分析。

    • 一般来讲,一个优化算法的计算复杂度由两部分组成:目标函数的计算复杂度和优化算法自身的计算复杂度,本文重点分析ILFPSO与LFPSO计算复杂度。因为两种算法的目标函数评价次数相同,目标函数的计算复杂度相同,所以在此仅分析两种算法自身的复杂度。LFPSO中Levy Flight算子的计算复杂度高,当嵌入计算复杂度较低的趋优算子时,两个算子交替运行,如此降低了ILFPSO的整体计算复杂度。另外,ILFPSO消除无效解也在一定程度上提高了算法的计算效率。

    • 为进一步说明ILFPSO算法的寻优能力,选取f1f3f7f9f11f19作为测试函数。将ILFPSO算法与国内目前最优秀的具有反向学习和局部学习能力的PSO算法(RLPSO)[2]进行对比。两种算法的参数:维数n为30,种群数量为20。两种算法的实验数据如表 6所示,RLPSO的实验数据直接来自文献[2]。

      表 6  ILFPSO与RLPSO算法的结果对比

      函数 方法 maxEFs Mean Std
      f1 ILFPSO 5×104 4.065 8×10-23 1.062 2×10-22
      RLPSO 1×105 1.23×10-13 2.82×10-13
      f3 ILFPSO 5×104 3.776 7×10-18 9.070 5×10-18
      RLPSO 1×105 9.02×10-8 2.92×10-8
      f7 ILFPSO 5×104 0 0
      RLPSO 1××105 1.56 1.37
      f9 ILFPSO 5×104 0 0
      RLPSO 1×105 1.63×10-2 1.98×10-2
      f11 ILFPSO 5×104 7.857 4×10-14 1.100 6×10-13
      RLPSO 1×105 4.99×10-8 2.66×10-8
      f19 ILFPSO 5×104 1.342 9×101 1.239 7×101
      RLPSO 1×105 2.03×102 5.86×102

      表 6可以看出,不管是Mean还是Std,ILFPSO大幅度优于RLPSO,说明ILFPSO全局搜索能力更好,收敛速度更快以及收敛精度更高,而且对比实验中本文提出ILFPSO的最大目标函数评价次数(maxEFs)比RLPSO少得多,前者为5×104,后者为1×105,这更说明ILFPSO比RLPSO优化性能好。

      通过以上仿真实验及结果对比,ILFPSO很好地避免了LFPSO中出现的收敛速度慢、易产生无效解、搜索效率不高以及普适性不强等问题。这些问题的解决主要因为:

      1) ILFPSO为平衡原始算法的全局和局部搜索能力以及加快算法的收敛速度而引进了趋优算子;

      2) 对速度的边界进行动态更新,提高了ILFPSO的前期全局搜索能力和后期局部搜索能力;

      3) 改进的Levy Flight算子避免出现无效解。因此,与LFPSO、ELPSO、SRPSO和RLPSO相比,ILFPSO具有更高的优化效率,更好的普适性。

    • 针对LFPSO中出现的搜索效率不高和普适性不强等问题,本文提出了一种趋优算子与Levy Flight混合的粒子群优化算法。首先改进Levy Flight算子,解决了LFPSO中易产生无效解的问题。然后控制趋优算子与Levy Flight的交替运行,更好地平衡了算法的全局与局部搜索能力,提高了算法的普适性。最后在每次迭代时对速度的边界进行动态更新,用于提高前期全局搜索能力和后期局部搜索能力。28个benchmark函数仿真实验结果表明本文提出的方法是有效的,与当前最优秀的PSO改进算法相比,ILFPSO更具有竞争性和普适性。

参考文献 (13)

目录

    /

    返回文章
    返回