留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

量子视角下的智能优化算法综述

王鹏 王方

王鹏, 王方. 量子视角下的智能优化算法综述[J]. 电子科技大学学报, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
引用本文: 王鹏, 王方. 量子视角下的智能优化算法综述[J]. 电子科技大学学报, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
WANG Peng, WANG Fang. Overview of Intelligent Optimization Algorithms from the Perspective of Quantum[J]. Journal of University of Electronic Science and Technology of China, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
Citation: WANG Peng, WANG Fang. Overview of Intelligent Optimization Algorithms from the Perspective of Quantum[J]. Journal of University of Electronic Science and Technology of China, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345

量子视角下的智能优化算法综述

doi: 10.12178/1001-0548.2021345
基金项目: 国家自然科学基金(60702075);中央高校基本科研业务费专项(2018NQN55)
详细信息
    作者简介:

    王鹏(1975 − ),男,博士,教授,主要从事量子算法、计算智能和并行计算方面的研究

    通讯作者: 王鹏,E-mail:qhoalab@163.com
  • 中图分类号: TP391

Overview of Intelligent Optimization Algorithms from the Perspective of Quantum

  • 摘要: 近年来,量子科技的发展突飞猛进,成为继云计算、大数据、人工智能、区块链技术之后的又一种新兴战略性技术,其中量子理论在智能优化领域的应用被证明是较为成功和富有前景的。该文从量子力学的视角综述了当前智能优化算法的研究进展。将量子力学在智能优化算法中的应用分成了两个方面:1) 将量子理论中的量子比特、量子门等概念应用于构造智能优化算法的相关研究,这些工作通过在智能优化算法中实现量子特性从而获得算法性能的提升;2) 利用薛定谔方程、波函数、叠加态等概念对智能优化算法进行建模,建立了智能优化算法的量子化描述方式,为利用量子力学对智能优化算法进行分析和研究提供了新的范式。量子理论在优化算法中的应用现状表明:建立在薛定谔方程上的智能优化算法理论具有完备的数学理论框架,并能导出优化算法的核心迭代操作,有望为优化算法建立统一数学物理模型。
  • 表  1  智能优化算法量子动力学下的基本对应关系和操作

    智能优化算法的量子动力学解释对应基本迭代操作
    $\dfrac{ {\partial \psi \left( {x,\tau } \right)} }{ {\partial \tau } } = \left[ {D\dfrac{ { {\partial ^2} } }{ {\partial {x^2} } } - f\left( x \right)} \right]\psi \left( {x,\tau } \right)$此方程为智能优化算法的量子动力学方程,从量子力学的角度描述了智能优化算法的迭代演化过程。通过此方程优化问题被转化为求约束态的基态波函数问题。迭代过程
    $V\left( x \right) = f\left( x \right)$将目标函数视为量子系统的约束势能,将优化问题
    视为求最低能量问题。
    求最小值
    $\psi \left( {x,\tau } \right)$智能优化算法量子动力学将智能优化算法的解描述为波函数,
    即解的概率分布。
    智能优化算法的迭代过程
    就是波函数的演化过程。
    量子不确定性原理全局搜索性能和局部搜索性能不能在一个动力学方程中同时获得。多尺度过程,变步长策略。
    参数D对应于扩散系数,其大小与尺度有关,D在多尺度过程中会逐步减小,这一点与量子退火相同。尺度,采样步长。
    $P\left( { {x_1} \cdots {x_N} } \right) = \displaystyle\prod\limits_{n = 1}^N {P\left( { {x_n},{x_{n - 1} } } \right)}$采样密度函数正态随机采样
    $ W\left( {{x_n}} \right) = \exp \left\{ { - \dfrac{{\left[ {f\left( {{x_n}} \right) - {E_R}} \right]\Delta \tau }}{\hbar }} \right\} $概率权重函数,描述了粒子通过随机运动出现在${x_n}$ 的几率。调整粒子密度
    下载: 导出CSV
  • [1] LANDAU L D, LIFSHITZ E M. Quantum mechanics: Non-relativistic theory[M]. Oxford: Elsevier, 2013.
    [2] BELL J S, BELL J S. Speakable and unspeakable in quantum mechanics: Collected papers on quantum philosophy[M]. Cambridge: Cambridge University Press, 2004.
    [3] DEUTSCH D, JOZSA R. Rapid solution of problems by quantum computation[J]. Proceedings of the Royal Society of London. Series A: Mathematical and Physical Sciences, 1992, 439(1907): 553-558. doi:  10.1098/rspa.1992.0167
    [4] BERNSTEIN E, VAZIRANI U. Quantum complexity theory[J]. SIAM Journal on Computing, 1997, 26(5): 1411-1473. doi:  10.1137/S0097539796300921
    [5] SIMON D R. On the power of quantum computation[J]. SIAM Journal on Computing, 1997, 26(5): 1474-1483. doi:  10.1137/S0097539796298637
    [6] SHOR P W. Algorithms for quantum computation: Discrete logarithms and factoring[C]//Proceedings 35th Annual Symposium on Foundations of Computer Science. Washington: IEEE, 1994: 124-134.
    [7] BRADY L T, BALDWIN C L, BAPAT A, et al. Optimal protocols in quantum annealing and quantum approximate optimization algorithm problems[J]. Physical Review Letters, 2021, 126(7): 070505. doi:  10.1103/PhysRevLett.126.070505
    [8] RAJAK A, CHAKRABARTI B K. Quantum annealing search of Ising spin glass ground state (s) with tunable transverse and longitudinal fields[J]. Indian Journal of Physics, 2014, 88(9): 951-955. doi:  10.1007/s12648-014-0483-9
    [9] MARTOŇÁK R, SANTORO G E, TOSATTI E. Quantum annealing of the traveling-salesman problem[J]. Physical Review E, 2004, 70(5): 057701. doi:  10.1103/PhysRevE.70.057701
    [10] HARRIS R, SATO Y, BERKLEY A J, et al. Phase transitions in a programmable quantum spin glass simulator[J]. Science, 2018, 361(6398): 162-165. doi:  10.1126/science.aat2025
    [11] DAHL E D. Programming with D-Wave: Map coloring problem[R/OL]. (2013-11-01). http://lrss.fri.uni-lj.si/sl/teaching/NPMP/lectures/Dwave_programming.pdf.
    [12] CALUDE C S, CALUDE E. The road to quantum computational supremacy[EB/OL]. [2021-10-02]. http://arxiv.org/pdf/1712.01356.pdf.
    [13] BENIOFF P. The computer as a physical system: A microscopic quantum mechanical Hamiltonian model of computers as represented by Turing machines[J]. Journal of Tatistical Physics, 1980, 22(5): 563-591.
    [14] FEYNMAN R P. Simulating physics with computers[J]. International Journal of Theoretical Physics, 1982(21): 467-488.
    [15] NARAYANAN A, MOORE M. Quantum-inspired genetic algorithms[C]//IEEE International Conference on Evolutionary Computation. [S.l.]: IEEE, 1996: 61-66.
    [16] WANG L, NIU Q, FEI MR. A novel quantum ant colony optimization algorithm[C]//International Conference on Life System Modeling and Simulation. Berlin, Heidelberg: Springer, 2007: 277-286.
    [17] ZHU K, JIANG M Y. Quantum artificial fish swarm algorithm[C]//World Congress on Intelligent Control and Automation. Jinan: IEEE, 2010: 1-5.
    [18] MORITA S, NISHIMORI H. Mathematical foundation of quantum annealing[J]. Journal of Mathematical Physics, 2008, 49(12): 125213-125214. doi:  10.1063/1.3005226
    [19] MU L, WANG P, XIN G. Quantum-inspired algorithm with fitness landscape approximation in reduced dimensional spaces for numerical function optimization[J]. Information Sciences, 2020, 527: 253-278. doi:  10.1016/j.ins.2020.03.035
    [20] XIN G, WANG P, JIAO Y. Noise-enhanced quantum annealing approach and its application in plug-in hybrid electric vehicle charging optimization[J]. Electronics Letters, 2021, 57(8): 314-316. doi:  10.1049/ell2.12112
    [21] SUN J, XU W B, FENG B. A global search strategy of quantum-behaved particle swarm optimization[C]//Proc IEEE Conference on Cybernetics & Intelligent Systems. Singapore: IEEE, 2004: 111-116.
    [22] SUN J, FANG W, WU X J, et al. Quantum-behaved particle swarm optimization: Analysis of individual particle behavior and parameter selection[J]. Evolutionary Computation, 2012, 20(3): 349-393. doi:  10.1162/EVCO_a_00049
    [23] HOLLAND J H. Erratum: Genetic algorithms and the optimal allocation of trials[J]. Siam Journal on Computing, 2006, 2(2): 88-105.
    [24] METROPOLIS N, ROSENBLUTH A W, ROSENBLUTH M N, et al. Equation of state calculations by fast computing machines[J]. The Journal of Chemical Physics, 1953, 21(6): 1087-1092. doi:  10.1063/1.1699114
    [25] COLORNI A, DORIGO M, MANIEZZO V. Distributed optimization by ant colonies[C]//European Conference on Artificial Life. Paris: Elsevier, 1991: 134-142.
    [26] KENNEDY J, EBERHART R. Particle swam optimization [C]//Proceedings of ICNN'95-International Conference on Neural Networks. Perth: IEEE, 1995, 4: 1942-1948.
    [27] SORENSEN K. Metaheuristics the metaphor exposed[J]. International Transactions in Operational Research, 2015, 22(1): 3-18. doi:  10.1111/itor.12001
    [28] YANG X S. Nature inspired optimization algorithms[M]. Amsterdam: Elsevier, 2014.
    [29] JR I F, MLAKAR U, BREST J, et al. A new population-based nature-inspired algorithm every month: Is the current era coming to the end?[C]//Proceedings of the 3rd Student Computer Science Research Conference. Koper: University of Primorskapp, 2016, 1: 33-37.
    [30] WEYLAND D. A rigorous analysis of the harmony search algorithm: How the research community can be misled by a novel methodology[J]. International Journal of Applied Metaheuristic Computing, 2010, 1(2): 50-60. doi:  10.4018/jamc.2010040104
    [31] VON NEUMANN J. Mathematical foundations of quantum mechanics[M]. [S.l.]: Princeton University Press, 2018.
    [32] EDDINGTON A. The nature of the physical world: The Gifford lectures 1927[M]. [S.l.]: BoD–Books on Demand, 2019.
    [33] BORN M, OPPENHEIMER R. On the quantum theory of molecules[J]. Annalen der Physik, 1927, 84: 457-484.
    [34] EBERHART R C, SHI Y, KENNEDY J. Swarm intelligence[M]. Sanfrancisco: Elsevier, 2001.
    [35] FEYNMAN R P. Quantum mechanical computers[J]. Foundation of Physics, 1986, 16: 507-531. doi:  10.1007/BF01886518
    [36] HOLLAND J H. Adaptation in natural and artificial system[M]. Ann Arbor: The University of Michigan Press, 1975.
    [37] BOOKER L B, GOLDBERG D E, HOLLAND J H. Classifier systems and genetic algorithms[J]. Artificial Intelligence, 1989, 40(2): 235-282.
    [38] GOLDBERG D E. Genetic algorithms in search, optimization, and machine learning[M]. Boston: Addison-Wesley Publishing Company, 1989.
    [39] FITZPATRICK J M, GREFENSTETTE J J. Genetic algorithms in noisy environments[J]. Machine Learning, 1988, 3(2): 101-120.
    [40] GOLDBERG D E. Optimal initial population size for binary-coded genetic algorithms[C]//Proceeding of the International Joint Conference on Artificial Intelligence. California: Morgan Kaufmann, 1985, 9: 588-592
    [41] GOLDBERG D E. Sizing populations for serial and parallel genetic algorithms[C]//Proceedings of the 3rd International Conference on Genetic Algorithms. Virginia: Morgan Kaufmann Publishers Inc, 1989, 1: 70-79.
    [42] BERTONI A, DORIGO M. Implicit parallelism in genetic algorithms[J]. Artificial Intelligence, 1993, 61(2): 307-314. doi:  10.1016/0004-3702(93)90071-I
    [43] 丁立新, 金裕红. 等概率抽样群体演化算法的隐含并行性[J]. 海军工程大学学报, 1999(4): 64-68.

    DING L X, JIN Y H. Implicit parallelism in evolutionary algorithms under the condition of sampling populations with equal probability[J]. Journal of Naval Academy of Engineering, 1999(4): 64-68.
    [44] 恽为民, 席裕庚. 遗传算法的运行机理分析[J]. 控制理论与应用, 1996(3): 297-304.

    YUN W M, XI Y G. The analysis on running mechanism of genetic algorithm[J]. Control Theory and Applications, 1996(3): 297-304.
    [45] 王鹏, 常征. 算法隐含并行性的物理模型[J]. 电子科技大学学报, 2009, 38(4): 588-591. doi:  10.3969/j.issn.1001-0548.2009.04.026

    WANG P, CHANG Z. Physical model of implicit parallelism in algorithms[J]. Journal of University of Electronic Science and Technology of China, 2009, 38(4): 588-591. doi:  10.3969/j.issn.1001-0548.2009.04.026
    [46] 王鹏, 李建平. 不确定性与自然计算并行性的内在关联[J]. 计算机科学, 2010, 37(2): 216-220. doi:  10.3969/j.issn.1002-137X.2010.02.054

    WANG P, LI J P. Relationship between uncertainty and parallelism of nature computation[J]. Computer Science, 2010, 37(2): 216-220. doi:  10.3969/j.issn.1002-137X.2010.02.054
    [47] 谢千河, 王鹏. 不确定性的哲学发展历程及分析[J]. 内江师范学院学报, 2009, 24(9): 59-60. doi:  10.3969/j.issn.1671-1785.2009.09.014

    XIE Q H, WANG P. Philosophy history and analysis of uncertainty[J]. Journal of Neijiang Normal University, 2009, 24(9): 59-60. doi:  10.3969/j.issn.1671-1785.2009.09.014
    [48] HAN K, KIM J. Genetic quantum algorithm and its application to combinatorial optimization problem[C]//Proceedings of the 2000 Congress on Evolutionary Computation. California: IEEE, 2000, 2: 1354-1360.
    [49] HAN K, KIM J. Genetic quantum algorithm and its application to combinatorial optimization problem[C]// Congress on Evolutionary Computation. Honolulu: IEEE, 2002: 580-593.
    [50] LI Y Y, JIAO L C. Quantum-inspired immune clonal algorithm and its application[C]//2007 International Symposium on Intelligent Signal Processing and Communication Systems. Xiamen: IEEE, 2008, 1: 670-673
    [51] LI Y Y, TIAN M Z, LIU G Y, et al. Quantum optimization and quantum learning: A survey[J]. IEEE Access, 2020, 8: 23568-23593. doi:  10.1109/ACCESS.2020.2970105
    [52] FINNILA A B, GOMEZ M A, SEBENIK C, et al. Quantum annealing: A new method for minimizing multidimensional functions[J]. Chemical Physics Letters, 1994, 219: 343-348. doi:  10.1016/0009-2614(94)00117-0
    [53] ANDERSON J B. A random walk simulation of the Schrödinger equation: H+3[J]. The Journal of Chemical Physics, 1975, 63(4): 1499-1503. doi:  10.1063/1.431514
    [54] KOSZTIN I, FABER B, SCHULTEN K. Introduction to the diffusion monte carlo method[J]. American Journal of Physics, 1996, 64(5): 633-644. doi:  10.1119/1.18168
    [55] 杜卫林, 李斌, 田宇. 量子退火算法研究进展[J]. 计算机研究与发展, 2008, 45(9): 1501-1508.

    DU W L, LI B, TIAN Y. Quantum annealing algorithms: State of the art[J]. Journal of Computer Research and Development, 2008, 45(9): 1501-1508.
    [56] KADOWAKI T, NISHIMORI H. Quantum annealing in the transverse ising model[J]. Physical Review E, 1998, 58(5): 5355-5363. doi:  10.1103/PhysRevE.58.5355
    [57] BROOKE J. Quantum annealing of a disordered magnet[J]. Science, 1999, 284(5415): 779-781. doi:  10.1126/science.284.5415.779
    [58] SANTORO G E, MARTOŇÁK R, TOSATTI E, et al. Theory of quantum annealing of an ising spin glass[J]. Science, 2002, 295(5564): 2427-2430. doi:  10.1126/science.1068774
    [59] STELLA L, SANTORO G E, TOSATTI E. Optimization by quantum annealing: Lessons from simple cases[J]. Physics Review B, 2005, 72(1): 014303.
    [60] JOHNSON M W, AMIN M H S, GILDERT S. Quantum annealing with manufactured spins[J]. Nature, 2011, 473(7346): 194-198. doi:  10.1038/nature10012
    [61] WANG P, YE X G, LI B, et al. Multi-scale quantum harmonic oscillator algorithm for global numerical optimization[J]. Applied Soft Computing, 2018(69): 655-670.
    [62] 王鹏, 黄焱, 任超, 等. 多尺度量子谐振子高维函数全局优化算法[J]. 电子学报, 2013, 12(9): 150-155.

    WANG P, HUANG Y, REN C, et al. Multi-scale quantum harmonic oscillator for high dimensional function global optimization algorithm[J]. Acta Electronica Sinica, 2013, 12(9): 150-155.
    [63] YE X G, WANG P. Impact of migration strategies and individual stabilization on multi-scale quantum harmonic oscillator algorithm for global numerical optimization problems[J]. Applied Soft Computing, 2019, 85: 105800. doi:  10.1016/j.asoc.2019.105800
    [64] 王鹏, 辛罡. 优化问题的量子理论纲要[J/OL]. (2020-02-28). 自动化学报. https://doi.org/10.16383/j.aas.c190761.

    WANG P, XIN G. Quantum theory of optimization problem[J/OL]. (2020-02-28). Acta Automatic Sinica. https://doi.org/10.16383/j.aas.c190761.
    [65] XIN G, WANG P, JIAO Y. Multiscale quantum harmonic oscillator optimization algorithm with multiple quantum perturbations for numerical optimization[J]. Expert Systems with Applications, 2021, 185: 115615. doi:  10.1016/j.eswa.2021.115615
    [66] 周岩, 王鹏, 等. MQHOA优化算法能级稳定过程及判据研究[J]. 电子学报, 2019, 47(6): 1337-1343.

    ZHOU Y, WANG P, XIN G, et al. Research on energy level stability process and criterion of MQHOA optimization algorithm[J]. Acta Electronica Sinica, 2019, 47(6): 1337-1343.
    [67] JIN J, WANG P. Multiscale quantum harmonic oscillator algorithm with guiding information for single objective optimization[J]. Swarm and Evolutionary Computation, 2021, 65: 100916.
    [68] 焦育威, 王鹏. 基于种群个体数自适应的多尺度量子谐振子优化算法[J/OL]. (2020-09-29). 自动化学报. https://doi.org/10.16383/j.aas.c200247.

    JIAO Y W, WANG P. Multi-scale quantum harmonic oscillator algorithm based on subpopulation number adaptive[J/OL]. (2020-09-29). Acta Automatic Sinica. https://doi.org/10.16383/j.aas.c200247.
    [69] YE X G, WANG P. Adaptive multi-scale quantum harmonic oscillator algorithm based on evolutionary strategy[C]// 2020 IEEE Congress on Evolutionary Computation (CEC). Glasgow: IEEE, 2020, 1: 1-8.
    [70] 燕京京, 王鹏, 范家兵, 等. 基于量子谐振子模型的聚类中心选取算法[J]. 电子学报, 2016, 44(2): 405-412. doi:  10.3969/j.issn.0372-2112.2016.02.023

    YAN J J, WANG P, FAN J B, et al. Clustering center selecting algorithm based on quantum harmonic oscillator model[J]. Acta Electronica Sinica, 2016, 44(2): 405-412. doi:  10.3969/j.issn.0372-2112.2016.02.023
    [71] 陆志军, 安俊秀, 王鹏. 基于划分的多尺度量子谐振子算法多峰优化[J]. 自动化学报, 2016, 42(2): 235-245.

    LU Z J, AN J X, WANG P. Partition-based MQHOA for multimodal optimization[J]. Acta Automatic Sinica, 2016, 42(2): 235-245.
    [72] 王鹏, 黄焱. 具有能级稳定过程的MQHOA优化算法[J]. 通信学报, 2016, 37(7): 79-86.

    WANG P, HUANG Y. MQHOA algorithm with energy level stabilizing process[J]. Journal on Communications, 2016, 37(7): 79-86.
    [73] XIN G, WANG P. Exploring superposition state in multi-scale quantum harmonic oscillator algorithm[J]. Applied Soft Computing, 2021, 107: 107398. doi:  10.1016/j.asoc.2021.107398
    [74] WANG P, XIN G, WANG F, et al. Quantum dynamics interpretation of black-box optimization[EB/OL]. [2021-09-26]. http://arxiv.org/pdf/2106.13927.pdf.
    [75] WICK G C. Properties of Bethe-Salpeter wave functions[J]. Physical Review, 1954, 96(4): 1124-1134. doi:  10.1103/PhysRev.96.1124
    [76] KENNEDY J, EBERHART R C. Particle swarm optimization[C]// Proceedings of ICNN'95-international Conference on Neural. Perth: [s.n.], 1995, 4: 1942-1948.
    [77] SHI Y. A modified particle swarm optimizer[C]//1998 IEEE International Conference on Evolutionary Computation Proceedings. Alaska: IEEE, 1998, 1: 69-73.
    [78] CLERC M. The swarm and the queen: Towards a deterministic and adaptive particle swarm optimization[C]//Proceedings of the 1999 Congress on Evolutionary Computation. Washington D C: IEEE, 1999, 3: 1951-1957.
    [79] KENNEDY J. Bare bones particle swarms[C]//Proceedings of the 2003 IEEE Swarm Intelligence Symposium. [S.l.]: IEEE, 2003, 1: 80-87.
    [80] KENNEDY J. Probability and dynamics in the particle swarm[C]//Proceedings of the 2004 Congress on Evolutionary Computation. Portland: IEEE, 2004, 1: 340-347.
    [81] KENNEDY J. In search of the essential particle swarm[C]//IEEE Congress on Evolutionary Computations. Vancouver: IEEE, 2006, 1: 1694-1701.
    [82] PIOTROWSKI A P, NAPIORKOWSKI J J, ROWINSKI P M. How novel is the "novel" black hole optimization approach?[J]. Information Sciences, 2014, 267: 191-200. doi:  10.1016/j.ins.2014.01.026
    [83] OMRAN M G H, ENGELBRECHT A P, SALMAN A. Bare bones differential evolution[J]. European Journal of Operational Research, 2009, 196(1): 128-139. doi:  10.1016/j.ejor.2008.02.035
    [84] WANG H, RAHNAMAYAN S, SUN H, et al. Gaussian bare-bones differential evolution[J]. IEEE Trans on Cybernetics, 2013, 43(2): 634-647. doi:  10.1109/TSMCB.2012.2213808
    [85] LI J Z, TAN Y. The bare bones fireworks algorithm: A minimalist global optimizer[J]. Applied Soft Computing, 2018, 62: 454-462. doi:  10.1016/j.asoc.2017.10.046
    [86] 李盼池, 王海英, 宋考平, 等. 量子势阱粒子群优化算法的改进研究[J]. 物理学报, 2012, 61(6): 060302. doi:  10.7498/aps.61.060302

    LI P C, WANG H Y, SONG K P, et al. Research on the improvement of quantum potential well-based particle swarm optimization algorithm[J]. Acta Physica Sinica, 2012, 61(6): 060302. doi:  10.7498/aps.61.060302
  • [1] 郭志成, 刘影, 陈钰书, 唐明.  复杂网络上具有自适应行为的故障-恢复传播动力学研究 . 电子科技大学学报, 2024, 53(): 1-9. doi: 10.12178/1001-0548.2023080
    [2] 刘益安, 马瑞辰, 李国, 于奇, 刘洋, 胡绍刚.  负阻态忆阻Hopfield神经网络动力学 . 电子科技大学学报, 2023, 52(1): 38-43. doi: 10.12178/1001-0548.2022294
    [3] 贾春晓, 李明, 刘润然.  多层复杂网络上的渗流与级联失效动力学 . 电子科技大学学报, 2022, 51(1): 148-160. doi: 10.12178/1001-0548.2021184
    [4] 梁凯豪, 张文峰, 张小花, 吴卓葵, 刘芹, 张超龙, 李梓龙.  冠状病毒SARS-CoV-2、SARS-CoV和MERS-CoV的传染动力学分析 . 电子科技大学学报, 2020, 49(3): 349-356. doi: 10.12178/1001-0548.2020067
    [5] 阚佳倩, 马闯, 张海峰.  警觉与疾病的传播次序性对动力学的影响 . 电子科技大学学报, 2020, 49(3): 431-437. doi: 10.12178/1001-0548.2019163
    [6] 林自展, 肖井华, 周金连, 吴晔.  基于观点动力学的在线点评研究 . 电子科技大学学报, 2020, 49(1): 155-160. doi: 10.12178/1001-0548.2018320
    [7] 乔晓华, 徐毅, 孙玉霞, 武花干.  忆阻超混沌Lü系统的隐藏动力学特性研究 . 电子科技大学学报, 2018, 47(3): 402-409. doi: 10.3969/j.issn.1001-0548.2018.03.013
    [8] 张新明, 王霞, 涂强, 康强.  趋优算子和Levy Flight混合的粒子群优化算法 . 电子科技大学学报, 2018, 47(3): 421-429. doi: 10.3969/j.issn.1001-0548.2018.03.016
    [9] 楼凤丹, 周银座, 庄晓丹, 张新荣.  时效网络结构及动力学研究进展综述 . 电子科技大学学报, 2017, 46(1): 109-125. doi: 10.3969/j.issn.1001-0548.2017.01.017
    [10] 周群, 徐懿, 张金保, 宁佳, 曾雪洋.  I2控制Buck变换器的一阶动力学分析 . 电子科技大学学报, 2016, 45(3): 387-392. doi: 10.3969/j.issn.1001-0548.2016.02.013
    [11] 王伟, 舒盼盼, 唐明, 高辉.  网络传播动力学模拟方法评述 . 电子科技大学学报, 2016, 45(2): 288-294.
    [12] 符丁, 李明江, 黎路.  基于价值驱动的人类行为动力学实证研究和建模 . 电子科技大学学报, 2015, 44(5): 652-656. doi: 10.3969/j.issn.1001-0548.2015.05.002
    [13] 薛博, 陈小梅, 毛冰晶, 倪国强.  镜面微振动时点扩散函数的仿真分析 . 电子科技大学学报, 2014, 43(1): 155-160. doi: 10.3969/j.issn.1001-0548.2014.01.026
    [14] 万建臣, 靳宗信.  多峰值函数优化问题的免疫遗传算法求解 . 电子科技大学学报, 2013, 42(5): 769-772. doi: 10.3969/j.issn.1001-0548.2013.05.024
    [15] 荣智海, 吴枝喜, 王文旭.  共演博弈下网络合作动力学研究进展 . 电子科技大学学报, 2013, 42(1): 10-22. doi: 10.3969/j.issn.1001-0548.2013.01.005
    [16] 鹿传国, 冯新喜, 张迪, 孔云波.  马尔可夫链蒙特卡罗容积粒子滤波器 . 电子科技大学学报, 2012, 41(6): 859-864. doi: 10.3969/j.issn.1001-0548.2012.06.008
    [17] 肖强, 曹荣, MORIYAMA T, 范欣, 文岐业, 张怀武.  自旋器件中的自旋动力学:微波领域应用的新兴科学 . 电子科技大学学报, 2009, 38(5): 505-523. doi: 10.3969/j.issn.1001-0548.2009.05.004
    [18] 杨春平, 贺秀兰, 吴健.  卷云散射的蒙特卡罗法模拟 . 电子科技大学学报, 2009, 38(1): 144-147.
    [19] 王昱青, 陈华富, 尧德中.  一种扩展的功能磁共振BOLD动力学模型研究 . 电子科技大学学报, 2007, 36(2): 291-293.
    [20] 徐红兵, 吕炳朝, 陈光.  一类非线性动力学系统的变结构混沌控制 . 电子科技大学学报, 1999, 28(3): 283-285.
  • 加载中
表(1)
计量
  • 文章访问数:  5408
  • HTML全文浏览量:  1819
  • PDF下载量:  139
  • 被引次数: 0
出版历程
  • 收稿日期:  2021-11-17
  • 修回日期:  2021-12-27
  • 录用日期:  2021-12-27
  • 网络出版日期:  2022-01-14
  • 刊出日期:  2022-01-15

量子视角下的智能优化算法综述

doi: 10.12178/1001-0548.2021345
    基金项目:  国家自然科学基金(60702075);中央高校基本科研业务费专项(2018NQN55)
    作者简介:

    王鹏(1975 − ),男,博士,教授,主要从事量子算法、计算智能和并行计算方面的研究

    通讯作者: 王鹏,E-mail:qhoalab@163.com
  • 中图分类号: TP391

摘要: 近年来,量子科技的发展突飞猛进,成为继云计算、大数据、人工智能、区块链技术之后的又一种新兴战略性技术,其中量子理论在智能优化领域的应用被证明是较为成功和富有前景的。该文从量子力学的视角综述了当前智能优化算法的研究进展。将量子力学在智能优化算法中的应用分成了两个方面:1) 将量子理论中的量子比特、量子门等概念应用于构造智能优化算法的相关研究,这些工作通过在智能优化算法中实现量子特性从而获得算法性能的提升;2) 利用薛定谔方程、波函数、叠加态等概念对智能优化算法进行建模,建立了智能优化算法的量子化描述方式,为利用量子力学对智能优化算法进行分析和研究提供了新的范式。量子理论在优化算法中的应用现状表明:建立在薛定谔方程上的智能优化算法理论具有完备的数学理论框架,并能导出优化算法的核心迭代操作,有望为优化算法建立统一数学物理模型。

English Abstract

王鹏, 王方. 量子视角下的智能优化算法综述[J]. 电子科技大学学报, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
引用本文: 王鹏, 王方. 量子视角下的智能优化算法综述[J]. 电子科技大学学报, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
WANG Peng, WANG Fang. Overview of Intelligent Optimization Algorithms from the Perspective of Quantum[J]. Journal of University of Electronic Science and Technology of China, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
Citation: WANG Peng, WANG Fang. Overview of Intelligent Optimization Algorithms from the Perspective of Quantum[J]. Journal of University of Electronic Science and Technology of China, 2022, 51(1): 2-15. doi: 10.12178/1001-0548.2021345
  • 量子力学诞生于20世纪初,是在Einstein、Bohr、Schrödinger、Heisenberg等一大批天才的物理学家的共同努力下建立起来的,这是人类历史上少有的由科学家群体共同努力建立的科学理论框架[1-2]。量子力学打破了人们从宏观世界获得的确定性世界观“常识”,为我们描述了一个被概率和不确定性统治的微观世界。物质世界的运动规律本质上是概率化的,电子双缝实验、波函数和不确定性关系等量子力学中的实验和理论都在不断地证明这一结论。量子力学揭示了物质世界本质的运动规律并被应用于各个技术领域,成为现代科学和技术的基石。同时量子力学的普遍适用性也在不断地得到证明,量子技术已成为一个国家科技实力的标志性技术,是继云计算、大数据、人工智能、区块链技术之后,我国未来的一个新的战略性新兴技术领域。

    不少文章在表述量子算法时都有所混淆。算法主要概括为两种:1)采用物质的量子效应制造的量子计算机及其在上面运行的算法。这种算法主要又包括两类,一类是基于量子门的量子计算机及其算法[3-6],另一类是基于量子退火原理的量子退火计算机及其算法[7-10]。其中量子退火计算机并不是通用量子计算机,它主要用于对优化问题的求解[11-12]。2)借鉴量子力学中的一些概念,如量子比特、量子门,将这些概念用于改进现有算法性能。这类算法还是运行在经典计算机上的,其所使用的量子特性可被认为仅仅是一种数学上的操作。本文所介绍的优化算法指的是后一种运行在经典计算机上的优化算法。

    由于优化算法具有广泛的应用场景,经过长期发展,经历了百花齐放的过程。量子理论中的一些观点和方法在优化算法中也得到过成功的应用,但优化领域一直面临缺乏完备理论支持的问题,大量的优化算法模型特别是自然模型都在从各自的视角对优化算法进行解释。但由于这些自然模型往往缺乏完备的数学框架,所以一些自然模型所提出的理论框架事实上是人为“杜撰”的。量子力学是描述大自然最基础、最本质规律的一门学科,同时量子力学通过长期的发展已具备了完备的数学框架并被大量的实验所证明[13-14],因此,将量子力学作为描述优化算法的物理模型是可行的。

    量子视角下的智能优化算法研究有两个方向:

    1) 将量子计算中一些概念和数学机制应用于已有的优化算法,其目的是提升现有算法的性能。如量子遗传算法(quantum-inspired genetic algorithms, QGA)利用量子位和量子叠加态对染色体进行编码,使一个染色体表示多个状态的信息的同时使用量子旋转门对种群进行更新,以当前最优个体的信息为引导进化[15]。在迭代过程中,每个量子位的叠加态将会塌缩到一个确定的状态,从而趋于稳定和达到收敛,最后实现寻优的目的。量子蚁群算法(quantum ant colony algorithm, QACA)将量子计算和蚁群算法相结合,把量子计算中的态矢量和量子旋转门引入到蚁群算法中,加速了算法的收敛速度[16]。量子人工鱼群算法(quantum artificial fish school algorithm, QAFSA)用量子计算的方法重新描述了人工鱼的行为,用量子比特对人工鱼进行编码,用量子旋转门实现人工鱼的更新操作,用量子非门进行人工鱼变异,从而实现了目标的优化求解[17]。该方向应用量子理论的目的不是为了解释智能优化算法,而只是单纯地将量子力学中的一些方法作为提升算法性能的手段。由于量子力学描述的是一个概率化的微观世界,量子机制通常都是概率化的,该方向的工作证明量子机制在智能优化算法中常常是有效的。目前在智能优化算法中使用的量子比特并不试图从量子力学的角度对智能优化算法做出解释,而仅被作为一种可以借鉴的编码机制。

    2)基于智能优化算法和量子力学在概率行为上的相似性,将优化问题的目标函数视为量子系统中的约束势能,从而将优化问题转化为求量子系统的基态波函数问题。第二个方向的特点是将优化问题从模型上视为量子问题,这样量子力学的整个数学框架就能被应用于对智能优化算法的研究和分析,得到智能优化算法迭代过程中的基本动力学规律和基本操作。量子退火算法(quantum annealing algorithm, QAA)是这个研究方向的先驱,其利用Schrödinger方程,对优化问题进行了初步的建模,提出了势能−优化问题等效的概念,量子退火算法利用量子力学的隧穿效应,在寻找全局最小值时更快地穿过局部极值点旁的势垒从而找到最优或接近最优的解[18]。多尺度量子谐振子算法(multi-scale quantum harmonic oscillator algorithm, MQHOA)也使用Schrödinger方程[19],将优化过程转换为在谐振子势约束下的多尺度退火过程[20],利用多尺度的概念,实现了量子扰动的逐步减小和优化系统对基态能量的逼近。这样利用Schrödinger方程构建优化模型的方法还有量子粒子群算法(quantum-behaved particle swarm optimization, QPSO),其利用Delta势阱的假设,假设PSO粒子群在虚拟的约束条件下运行,构建了其模拟量子优化系统[21-22]

    从当前研究情况来看,基于量子比特的智能优化算法研究已进行得相对充分,其主要应用场景是性能改进领域。而采用量子力学对智能优化算法进行建模,并利用量子力学的数学体系对智能优化算法进行研究目前尚处于初级阶段,是今后一个非常有前途的研究方向,将对解决智能优化算法领域当前的一些挑战具有建设性的作用。

    本文结合智能优化算法的最新研究进展,对量子力学在智能优化算法中的应用进行综述。介绍了从基于量子比特的智能优化算法向智能优化算法的量子动力学发展的过程,重点对智能优化算法量子动力学当前取得的一些研究结果进行了介绍,并展望了未来的研究方向。

    • 优化问题是一类常见问题,在实际工程应用中有大量的问题都可被抽象为优化问题。求函数的最小值、寻找最优路线和神经网络算法中获得最优的连接权重值等,都可被视为优化问题。

      以函数优化为例,从数学的角度,一维函数优化问题可以定义如下:

      针对目标函数$f\left( x \right)$在实数定义域$\left[ {a,b} \right]$上的优化问题,找到一个实数${x_0} \in \left[ {a,b} \right]$,对于任意$x \in \left[ {a,b} \right]$,满足$f\left( {{x_{\text{0}}}} \right) \leqslant f\left( x \right)$,则称${x_0}$为目标函数在实数定义域$\left[ {a,b} \right]$的全局最优解。

      以上定义是数学上对优化问题的一个确定性的定义。数学上的优化问题是要从理论上找到${x_0}$这一个确定的全局最优解。而从算法的视角来看函数优化问题则是将目标函数假设为黑盒。黑盒假设认为:目标函数的表达式$f\left( x \right)$是未知的,智能优化算法只能通过采样确定从目标函数定义域集合到值域集合中的每一个映射。每一次采样就是对黑盒进行的一次测量,测量的次数越多所获得的目标函数信息也越多。由于通常无法对目标函数定义域进行遍历,所以智能优化算法对目标函数$f\left( x \right)$全局最优解的位置的测量结果是不确定的,算法在运行过程中并不知道它是否找到了全局最优解。

      回顾经典计算机上的智能优化算法的历史,其发展经历了一个黄金时期,遗传算法[23]、退火算法[24]、蚁群算法[25]和粒子群算法[26]等经典的方法都在这一时期被提出,并很快被广泛地应用于各个领域。随后,针对这些经典智能优化算法的改进研究也成为了该领域的研究热点,这使智能优化算法的性能得到了快速的提升,并开始向高维大规模问题进行挑战。受前期经典智能优化算法构造思路的启发,许多算法研究者不断地采用新的启发式模型并据此不断提出新的方法。很快智能优化算法领域变得百花齐放,每一个性能优良的新智能优化算法后面都有一批跟进的研究者,并形成一个又一个的研究团体和派别,此时智能优化算法的研究进入了鼎盛时期。

      然而智能优化算法研究的隐忧却也在逐渐显现出来,总结为以下两点:

      1) 大量的智能优化算法模型来自于对自然现象的模拟,在理论分析时很难为这些复杂的体系建立完备的理论模型,这阻碍了对智能优化算法的深入研究;

      2) 不同的智能优化算法中存在着同质化的机制和操作。如很多算法都采用了均匀采样或正态采样,抑或是多尺度行为,但却由于算法模型的不同被割裂地解释为不同的原理。

      这些问题已被一些优化领域的学者注意到了。文献[27]提出“现在优化计算领域的研究,重要的不是提出新的算法而是为优化算法建立普遍适用的规则和策略,研究优化问题和优化算法中的共性问题”。文献[28]提出“不鼓励大家再提出新的优化算法,这些新算法可能只会分散解决优化中真正具有挑战性和真正重要问题的注意力”。因此,有研究者认为当前大量的新算法是对旧算法的新伪装,并认为这一时代即将结束[29-30]。这时需要更深刻地去认识优化问题,解释智能优化算法的基本操作和核心迭代过程,避免在漫无目的的探索中去提出各种所谓的新算法,这可能是当前智能优化算法研究的一个重要方向。

    • 量子力学所描述的是被概率所统治的世界图像,而智能优化算法在不确定性算法的基础上大量地在使用概率化的搜索行为。这使得量子力学所描述的世界体系与智能优化系统在概率上存在着一定的相似性,这正是采用量子力学视角对智能优化算法进行研究的基础。事实上,量子力学对现代计算机技术的发展有着深刻的影响,不少计算机科学的开创者都在研究量子力学,甚至还为量子力学做出过巨大贡献。现代计算机之父von Neumann写出了《量子力学的数学基础》[31],1931年Turing认真研读了这本书。而且早在1929年,Turing还着迷于天文学家Eddington所著的《物理世界的本质》[32],Eddington也认为“大脑也是由原子、电子组成的,量子物理或许能为人类意识、思维提供产生的机会和空间”。

      1926年Schrödinger提出了量子力学中最为著名的方程——Schrödinger方程:

      $$ {\rm{i}}\hbar \frac{{\partial \psi \left( {x,t} \right)}}{{\partial t}} = \left[ { - \frac{{{\hbar ^{\text{2}}}}}{{2m}}\frac{{{\partial ^2}}}{{\partial {x^2}}} + V\left( x \right)} \right]\psi \left( {x,t} \right) $$ (1)

      式中,$V\left( x \right)$为势能;$\psi \left( {x,t} \right)$为波函数。1927年,Born给出了Schrödinger方程中波函数的概率解释[33],他认为波函数代表了微观粒子的概率分布,而且波函数也完整地表达了一个微观粒子的运动状态。Born的解释建立了波函数与概率分布之间的关系,揭示了一个由概率行为所统治的微观世界。

      量子力学在Born的概率解释下与智能优化算法搜索过程中的随机性存在着深刻的内在联系。这一点提示我们采用量子理论的视角对优化问题和智能优化算法进行建模是一种可行的思路。随机性也是计算机智能产生的根源之一,文献[34]指出“随机性的程度决定了智能的高低”,这一论断指出了智能的本质是随机性。包括人类的智能也来自于随机性,一个充满了随机性的世界通过长期演化才出现了人类。1976年,图灵奖获得者Rabin认为“应该放弃的只是以完全确定的方式获得结果,这种结果可能出错,然而出错的可能性微乎其微,也就是说可以把概率算法用到这类问题中来”。Rabin的论断可以理解为以牺牲确定性来获得较高的计算效率,他从技术层面给出了实现智能的方法就是放弃对确定性的追求。现代人工智能算法几乎无一例外的采纳了Rabin的建议,这说明越来越多的学者认识到智能产生于随机性。而由量子力学所描述的物质世界的本质运行规律正好是概率化的,采用量子力学对智能优化算法进行研究是基于自然哲学的本质要求。2018年11月李国杰院士在《中国计算机学会通讯》上发表了题为《计算机科学基础理论需要重塑》的卷首语,他指出“量子力学改变了传统的逻辑定义,把概率看成了逻辑的内在组成。在计算机领域,构造一台完全公理化驱动的自动机也不现实,而对复杂环境,需要放弃严格逻辑而改用概率逻辑”。正如著名量子物理学家Feynman所说:“自然不是经典的,如果你想模拟自然,你最好把它变成量子力学。”而且 Feynman也最早指出了量子计算机的可行性,开启了量子计算时代[35]。对于量子力学在智能优化算法中的应用不应只是停留在借鉴层面,由于优化问题和智能优化算法自身的概率特性,智能优化算法的迭代过程或可能被量子理论的基本规律所描述。

    • 研究量子视角下的智能优化算法,可以先从隐含并行性开始。量子力学中的概率机制所带来的不确定性正是用量子模型来描述智能优化算法的原因。隐含并行性的起源也是来自于不确定性,这或许也是智能算法所具有的解空间高速搜索能力的原因。虽然量子智能优化算法研究的是经典计算机上的智能优化算法,但由不确定性造成的隐含并行计算能力也是不应该回避的话题。

      各类智能优化算法获得高效的解空间搜索能力的原因都是在某种程度上牺牲了对解的确定性的要求。如果要求以100%的概率找到最优解则只能使用强力搜索,这在大多数复杂优化问题中是不可能实现的。因此几乎所有的智能优化算法都不同程度地使用了随机数和概率策略,这些策略的引入使智能优化算法能在可以接受的时间内获得准确度可以接受的解。这种搜索速度提高的现象被称为算法的隐含并行性(implicit parallelism)。

      算法的隐含并行性有别于算法的内在并行性(inherent parallelism)。内在并行性是指算法本身非常适合大规模并行,可以同时让几百甚至数千台计算机各自独立进行计算,运行过程中基本不做任何消息通信。对于隐含并行性在其他智能优化算法中的情况,目前的研究资料还极度缺乏,其实这是一个十分重要的研究课题,它涉及到了智能算法的内在核心问题,但由于本身问题的理论困难,研究一直相对缓慢。

      隐含并行性的研究开始于20世纪70年代,目前对隐含并行性的研究多集中于遗传算法。1975年文献[36]首次提出了隐含并行性的概念,并指出隐含并行性是遗传算法能够快速有效搜索的根本原因。虽然隐含并行性是广泛存在于智能算法中的一个重要特性,但有关其他智能算法隐含并行性的研究长期以来没有得到国内外学者的重视。

      根据文献[36]定义的隐含并行性,结构重组等遗传操作可以使被采样的模式数尽可能的多,这样可以带来较大的隐含并行性。遗传算法每代虽然只处理了$ N $个个体,但隐含处理的模式数远远大于$ N $。针对这一定义,文献[37]指出遗传算法每代虽然只显示处理$ N $个个体串,实际隐含处理的模式数下界为$ {N^3}/{c_1}\sqrt l $,其中$ {c_1} $为一个小整数,$ l $为串长。这一下界表明模式数和$ {N^3} $成正比,也就是说遗传算法每代虽然只显示处理$ N $个个体串,但是隐含处理了至少$ {N^3} $个模式。遗传算法这种隐含处理能力正是该算法在解空间快速搜索的原因,随后其他学者对这一结论展开了进一步研究[38-41]。遗传算法[42]在这一结论的基础上进一步证明了隐含处理的模式数的下界为紧下界。国内有关隐含并行性的研究也是针对遗传算法进行的,文献[43]进一步研究了遗传算法隐含处理的模式数,给出了对任意串长$ l $及群体规模$ N $,在等概率抽取每个群体的条件下,遗传算法每代所处理的模式长度不超过$ {l_s} $的不同模式期望数的精确表达。文献[44]给出了每代至少产生$ O( {{2^{N - 1}}} ) $数量级的新模式。

      1975年Rabin等人提出的检测素数的不确定性方法Miller-Rabin检测法正是一种以牺牲确定性来获得快速检测素数的方法。Miller-Rabin检测法对待检测数$ n $进行$ k $次试验所需的时间为$ O({\log ^3}n) $,而出错的概率不超过$ 1/{2^k} $。目前这一素数检测方法也是检测素数最快的方法之一,其本质上也是通过牺牲确定性构造出具有隐含并行性的算法,其获得的隐含并行计算能力也是指数级的。

      文献[45]从遗传算法和模拟退火算法的隐含并行性入手,利用物理学中的不确定性原理以及热力学中的熵对隐含并行性进行分析,指出算法隐含并行性的根源是不确定性和高熵态。文献[46-47]分析了隐含并行性与不确定性的关系,并从哲学角度对不确定性进行了分析。研究表明隐含并行性是智能算法中普遍存在的重要机制。隐含并行性的研究结果为智能优化算法的设计指出了一个重要的原则:牺牲算法确定性可能获得更好的计算效率。由于隐含并行性可能是指数级的,因此这种确定性的牺牲在算法实践中是可以接受的,事实上大多数的智能优化算法和智能算法都不同程度地采用了这种策略。

      总之,隐含并行性作为一种反映算法内在快速搜索能力的指标一直以来未被研究者所重视。算法隐含并行性至今还没有严格的数学定义,特别是不确定性与隐含并行性之间的对应关系还未得出结论,相关研究工作主要也还是针对遗传算法在进行。近年来算法隐含并行性的研究更是处在停顿状态,几乎无法检索到相关论文,国内的研究者更是寥寥,这个非常重要的研究方向被大家所忽略了。

    • 算法的隐含并行性要求一个算法要构造一个具有概率特性的算法结构和算法操作,量子力学所具有的天然的概率特性成为了描述和研究优化问题的一个有力的理论武器。量子力学中的粒子可以处于多种本征态的叠加态,这是量子力学所描述的一种非常奇特的现象,最有名的思想实验就是 Schrödinger的猫,量子叠加态在经典世界是非常难以理解的。量子比特是量子叠加态原理的一种特殊情况,如果一个量子系统只有两个状态,采用Dirac算符分别用$\left| 0 \right\rangle $$\left| 1 \right\rangle $来表示这两个状态,它可以用来描述一个基于二进制编码的系统。在经典计算机中一个bit只能是0或1,也就是说只能处于$\left| 0 \right\rangle $态和$\left| 1 \right\rangle $态。而在量子系统中一个量子比特可以处于两种状态的叠加,即:

      $$ \phi = \alpha \left| 0 \right\rangle + \beta \left| 1 \right\rangle $$ (2)

      式中,$\alpha $$\;\beta $是分别处于两种态的概率幅,${\alpha ^{\text{2}}} + {\beta ^{\text{2}}} = {\text{1}}$

      状态$\phi $既不是0也不是1,而是处于0和1的叠加态。在对这种叠加态进行观察时会按概率坍缩到其中一个态。

      量子比特这一概念是智能优化算法设计时常采用的一个机制。最早应用这一机制的是遗传算法,1996年文献[15]提出了量子遗传算法(quantum-inspired genetic algorithms, QGA)求解旅行商问题,并将这一算法称为量子启发式算法,他们借鉴了量子叠加原理构造了一个具有“多宇宙”的策略,可以认为是一个多种群的策略。

      2000年,文献[48]提出遗传量子算法,采用量子比特的概念提高对背包问题的求解能力,量子比特提高了算法的随机性,对于算法的全局搜索能力是有益的。2002年文献[49]将算法的名称改为量子进化算法(quantum-inspired evolutionary algorithm, QEA),完整的结果发表在TEVC杂志上。他们的基本思路是将量子比特的概念与遗传算法的基本操作相结合,采用量子比特来改造遗传算法二进制编码机制,使遗传算法的经典二进制编码串成为量子比特串。通过量子比特改造的具有$n$位长度的遗传算法二进制编码可以表示为:

      $$ \left[ {\begin{array}{*{20}{c}} {{\alpha _{\text{1}}}}&{{\alpha _{\text{2}}}}&{{\alpha _{\text{3}}}}& \cdots &{{\alpha _n}} \\ {{\beta _{\text{1}}}}&{{\beta _{\text{2}}}}&{{\beta _{\text{3}}}}& \cdots &{{\beta _n}} \end{array}} \right] $$ (3)

      与经典的二进制表达相比,量子比特使二进制串的不确定性大大增加。如果采用量子比特所构成的串并对其进行多次测量,则任意一个可能解都会以一定的概率出现。如具有3个量子比特的量子串为:

      $$ \left[ {\begin{array}{*{20}{c}} {\dfrac{{\text{1}}}{{\sqrt {\text{2}} }}}&{\text{1}}&{\dfrac{{\text{1}}}{{\text{2}}}} \\ {\dfrac{{\text{1}}}{{\sqrt {\text{2}} }}}&{\text{0}}&{\dfrac{{\sqrt {\text{3}} }}{{\text{2}}}} \end{array}} \right] $$ (4)

      这个串是由3个量子比特构成:

      $$ \begin{split} &{\phi _{\text{1}}} = \dfrac{{\text{1}}}{{\sqrt {\text{2}} }}\left| {0} \right\rangle + \dfrac{1}{{\sqrt 2 }}\left| {1} \right\rangle \\ & \quad{\phi _{\text{2}}} = 1\left| {0} \right\rangle + 0\left| {0} \right\rangle \\ &{\phi _{\text{3}}} = \dfrac{{\text{1}}}{{\text{2}}}\left| {0} \right\rangle + \dfrac{{\sqrt 3 }}{2}\left| {1} \right\rangle \end{split} $$ (5)

      量子比特所构成的量子比特串拥有强大的表达力,它蕴含了所有解出现的概率。假设最优解为二进制串101,则其在测量过程中出现的概率为$\dfrac{{\text{3}}}{{\text{8}}}$,也就是说量子比特串中以一定概率隐含最优解。量子比特串使确定性的二进制串变成了解的概率叠加,从而大大增加了算法迭代过程中解的不确定性。对于长度为$n$的量子比特串的任何操作等效于对${{\text{2}}^n}$个不同经典比特串的操作。

      量子比特在理论和实践上的成功使不少研究者进入这一领域,构造出了一批基于量子比特的量子智能优化算法。2007年同样采用量子比特机制的量子蚁群算法被提出[16],2010年量子鱼群算法被提出[17],文献[50-51]也将量子比特用于免疫克隆算法中并提出了量子免疫克隆算法。

      这一类基于量子比特的算法是将量子比特的数学框架作为一种通用手段应用于已有的算法,以提高已有算法的性能,特别是全局搜索性能。由于量子比特的引入必然会增加算法迭代过程中的不确定性,从而使迭代过程不易陷入局部最优。理论上这对基础算法效果的改进是可行的,但这类研究并未从智能优化算法本身量子特性的角度来考虑,因此无法依据量子力学的知识获得智能优化算法的核心基础操作。

    • 采用量子比特来构造量子计算机和智能优化算法是基于对经典计算机的惯性认识,量子计算不一定要采用基于比特的逻辑运算来实现。在量子计算领域中,优化问题是被解决得最好的,这得益于优化问题可以有效的被量子模型所描述。量子退火理论及量子退火计算机的出现为这一问题提供了确切的证据。

      1994年文献[52]提出可以将优化问题的目标函数$f\left( x \right)$视为量子系统中的势能$V\left( x \right)$(称为势能等效关系,equivalence of potential energy, EPE),即$V\left( x \right) = f\left( x \right)$,从而可以通过量子退火过程或扩散蒙特卡罗方法(Diffusion Monte Carlo, DMC)来获得系统的基态[52]。如果将势能等效关系条件下量子系统的基态视为优化问题的解,则该工作从理论上证明了智能优化算法的迭代过程演化可以采用含时 Schrödinger方程来描述。并认为量子退火与经典退火的不同之处在于量子退火通过量子隧道效应在优化过程中实现跳出局部最优,并且隧道效应的大小与量子系统的质量有关,这一点指出了智能优化算法的多尺度过程。文献[52]还采用这一方法计算了 Lennard-Jones势下的分子团簇最低能量。DMC方法是上世纪70年代文献[53]首次提出的一种采用随机行走(random walk)求解$H_3^ + $分子Schrödinger方程基态波函数的方法。DMC利用了Schrödinger方程和扩散方程之间的同构性,模拟扩散过程推动波函数逐步向基态演化,从而实现对目标函数全局最优化解的搜索。文献[54]对扩散蒙特卡罗方法进行了非常深入细致的介绍,文献[55]针对量子退火的综述是目前国内较为完整的。

      1998年文献[56]提出可以采用位于横向磁场中的Ising模型实现量子退火过程的方案,并对此方案进行数值仿真,证明其比经典退火过程具有更好的收敛于基态的能力。在这一模型中,横向磁场被作为与温度相似的扰动能量,推动量子系统以绝热过程的方式向基态演化。此工作的意义在于为量子退火计算机的研究提供了具体实现路径。

      Ising模型是统计物理中的一种模型,它具有表述简单、内涵丰富和应用广泛的特点,甚至在社会科学中都得到了成功的应用。将Ising模型作为实现量子退火算法的理论方案,这意味着只要能找到可以形成Ising模型的实际物理系统,就能按照他们的方案实现量子退火计算机。

      Ising模型由具有向上和向下两个方向的小磁针排列组合而成,向上取1,向下取−1:

      $$ {s_i} = \left\{ {\begin{array}{*{20}{c}} { + 1,\;\;\left| { \uparrow } \right\rangle} \\ { - 1,\;\;\left| { \downarrow } \right\rangle} \end{array}} \right. $$ (6)

      在小磁针排列为$\left\{ {{s_i}} \right\}$时系统的总能量${E_{\left\{ {{s_i}} \right\}}}$为:

      $$ {E_{\left\{ {{s_i}} \right\}}} = - J\displaystyle\sum\limits_{\left\langle {ij} \right\rangle } {{s_i}{s_j}} - H\displaystyle\sum\limits_i {{s_i}} $$ (7)

      式中,$J$为能量耦合常数;$ \left\langle{ij}\right\rangle $代表对所有相邻小磁针进行求和,如${s_i} = {s_j}$总能量减小$J$$H$为外磁场强度,磁场向上为正,向下为负,如果小磁针方向也和外场一致,总能量减少一个单位。这表明在Ising模型中所有磁针方向一致并与外磁场方向相同时能量最低。当外界温度$T$越高时,就有数量越多的小磁针发生随机翻转。翻转后小磁针的排列状态为$\left\{ {{{s'}_i}} \right\}$,如果此时能量${E_{\left\{ {{s_i}} \right\}}} > {E_{\left\{ {{s'_i}} \right\}}}$则接受这次翻转;如果此时能量${E_{\left\{ {{s_i}} \right\}}} < {E_{\left\{ {{s'_i}} \right\}}}$,则以概率$\exp \left( {{E_{\left\{ {{s_i}} \right\}}} - {E_{\left\{ {{s'_i}} \right\}}}} \right)/\left( {kT} \right)$接受这一翻转。在这一机制下系统会向能量较低方向演化,最终到达如下的能量分布状态,即玻尔兹曼分布:

      $$ P\left( {\left\{ {{s_i}} \right\}} \right) = \frac{1}{Z}\exp \left( { - \frac{{{E_{\left\{ {{s_i}} \right\}}}}}{{kT}}} \right) $$ (8)

      式中,配分函数$Z = \displaystyle\sum\limits_{\left\{ {{s_i}} \right\}} {\exp \left( { - \dfrac{{{E_{\left\{ {{s_i}} \right\}}}}}{{kT}}} \right)}$

      文献[56]设计的量子退火方法采用横向磁场$\varGamma \left( t \right)$作为能量扰动,横向磁场强度$\varGamma \left( t \right)$随时间逐步降低,推动系统达到基态。

      $$ E{\left( t \right)_{\left\{ {{s_i}} \right\}}} = - J\displaystyle\sum\limits_{\left\langle {ij} \right\rangle } {{s_i}{s_j}} - H\displaystyle\sum\limits_i {{s_i}} -\varGamma \left( t \right)\displaystyle\sum\limits_i {{s_i}} $$ (9)

      因此量子退火过程采用Schrödinger方程描述为:

      $$ i\hbar \frac{{\partial \psi \left( {x,t} \right)}}{{\partial t}} = \left[ {E\left( t \right) + f\left( x \right)} \right]\psi \left( {x,t} \right) $$ (10)

      从智能优化算法的角度看这其实是表达一个多尺度的搜索过程,$\varGamma \left( t \right)$的值逐步减小时量子隧道效应逐步降低,搜索尺度减小。

      1999年文献[57]在《Science》上报道他们成功地采用Ising磁体材料在横向磁场内实现了简单的量子自旋模型。这一成果为采用量子退火计算机实现对优化问题的求解找到了一个具体实现方案,并首次从实验上证明了量子退火在求解优化问题中的可行性。意大利高等国际研究院(International School for Advanced Studies, SISSA)的一个项目组也对量子退火在优化问题中的实现进行了大量的研究,证明了这一方法在实践中的可行性[58-59]

      2011年基于量子退火原理的D-Wave量子计算机成为了世界上第一台可以商用的量子退火计算机,D-Wave同样采用了横向场Ising模型,D-Wave中的量子比特不是用于量子门操作的,而是用于构造Ising模型的[60]。D-Wave主要的用途就是进行优化问题的求解,D-Wave在求解优化问题时并不涉及具体的算法,而是通过退火过程由大自然给出问题的答案。

      从隐含并行性的观点来看,D-Wave获得快速求解优化问题的能力也是由于对于最终解的确定性的放松,其加速效果是针对强力搜索算法而言的。事实上大多数运行在经典计算机上的智能优化算法都能在较短的时间内获得一个组合优化问题的可行解,其采用的方法也放松了对解正确性的严格要求。量子退火计算机和经典计算机上的智能优化算法获得的快速计算能力都可以利用隐含并行性得到解释,量子退火计算机并不一定会比经典计算机上的智能优化算法快,只是两者运行的物理载体不一样。

      量子退火技术在解决优化问题的理论和实践上的成功证明了优化问题具有量子可描述性,即可以采用一个量子模型对优化问题进行描述,同时智能优化算法的迭代演化过程也可以由一个量子系统的演化过程来描述。当按照量子退火算法中的势能等效关系对智能优化算法进行建模后,可以发现智能优化算法的迭代采样过程就是满足Schrödinger方程所描述的演化过程的。

      量子动力学在智能优化算法中的应用得益于量子科学领域中量子退火算法的出现。智能优化算法的研究人员在广泛借鉴量子比特这一概念时,对物理学中的量子退火方法有所忽略,而正是量子退火算法才真正的指出了智能优化算法与量子理论之间密切的联系,而不仅仅是概念的借鉴。

      将量子力学引入智能优化算法更为重要的目的是希望能采用量子力学的数学框架分解出智能优化算法迭代过程的基本操作。智能优化算法的迭代过程是一个时间演化过程,因此描述智能优化算法的数学工具应该是一种动力学方程。量子退火思想的引入为建立智能优化算法的量子模型提供了契机,量子退火在处理优化问题时具有独特的优势。

      量子退火的核心思想有4点:

      1) 将优化问题的目标函数视为量子系统中的粒子势能;

      2) 量子系统能量最低的基态就是优化问题的解;

      3) 通过逐步降低外在能量扰动使量子系统能量逐步演化到基态;

      4) 优化问题的解采用概率化的波函数进行表达。

    • 量子退火的思想为建立智能优化算法的量子模型提供了思路,智能优化算法有可能自身就是一个可以被量子力学所描述的过程,即可以用Schrödinger方程来完整地描述智能优化算法的时间演化过程。与量子退火理论相似,如果将优化问题的目标函数$f\left( x \right)$作为量子系统中粒子的约束势能$V\left( x \right)$,即$V\left( x \right) = $$ f\left( x \right)$,就可以得到如下的智能优化算法的Schrödinger方程:

      $$ {\rm{i}}\hbar \frac{{\partial \psi \left( {x,t} \right)}}{{\partial t}} = \left[ { - \frac{{{\hbar ^{\text{2}}}}}{{2m}}\frac{{{\partial ^2}}}{{\partial {x^2}}} + f\left( x \right)} \right]\psi \left( {x,t} \right) $$ (11)

      这一思想在文献[21-22]提出的量子粒子群算法中得到了部分的采用。QPSO算法的经典版本采用$ \delta $势阱对应的基态波函数来构造采样函数,受粒子群算法的影响并未明确指出$V\left( x \right) = f\left( x \right)$的关系,算法的整体构造思路不是彻底量子化的,算法的核心迭代结构还是以粒子群算法为基础。QPSO算法在性能上获得了成功,但在高维函数优化时容易陷入局部最优。QPSO将采样函数与波函数对应起来的想法具有了智能优化算法量子模型的雏形。这使智能优化算法向量子理论迈进了一步,但其并未建立起智能优化算法和量子力学之间的数学物理关系,也没有意识到目标函数与势能之间的关系,这使得QPSO算法不能真正的成为量子化的算法,更未能为智能优化算法建立量子模型。

      明确将智能优化算法的目标函数视为Schrödinger方程中势能的算法是多尺度量子谐振子算法(MQHOA)[61-64]。MQHOA算法依据量子谐振子的波函数构造了智能优化算法,这一提法使智能优化算法向量子模型前进了一步。在该算法中还定义了波函数、零点能等量子物理中的重要概念[65],并对多尺度过程和不确定性关系进行了研究[66]。但有意思的是从量子动力学的角度看MQHOA算法的模型并不是完全正确的,在模型的应用上显得牵强。然而其构造出的算法结构却就是智能优化算法量子动力学所指出的基本迭代操作,而且MQHOA算法及其改进算法的性能也得到了一定程度的验证[67-72]。这些结果“意外”地证明了智能优化算法量子动力学给出的基本操作是简单而有效的,可以作为构造性能更好的算法的基础。MQHOA算法利用了智能优化算法的Schrödinger方程[73],但却未能明确指出并利用Schrödinger方程作为动力学方程来研究智能优化算法。虽然其在算法结构上基本与动力学模型给出的操作相似,但物理解释却不正确。MQHOA算法和QPSO算法都可以认为是量子动力学模型的萌芽。

      为解决该问题,文献[74]对智能优化算法的量子基础进行了讨论,确立了势能等效、优化问题的含时Schrödinger方程等一系列从量子视角研究智能优化算法的理论基础。为了利用经典计算机模拟智能优化算法在搜索过程中的随机马尔可夫过程,对Schrödinger方程做Wick转动[75],将时间转变为虚时间$\tau = \dfrac{{{\rm{i}}t}}{\hbar }$,并令$D = \dfrac{\hbar }{{2m}}$,则智能优化算法的含时Schrödinger方程重新写为:

      $$ \frac{{\partial \psi \left( {x,\tau } \right)}}{{\partial \tau }} = \left[ {D\frac{{{\partial ^2}}}{{\partial {x^2}}} - f\left( x \right)} \right]\psi \left( {x,\tau } \right) $$ (12)

      智能优化算法的含时Schrödinger方程就是智能优化算法的量子动力学方程,它从量子力学的角度描述了智能优化算法的时间演化过程,智能优化算法的迭代演化过程通过Schrödinger方程转化为波函数$\psi \left( {x,\tau } \right)$的时间演化过程。Schrödinger方程所对应的基态波函数就是优化问题所对应的解。从理论上讲,在$f\left( x \right)$已知的情况下可以通过求解Schrödinger方程获得基态波函数。

      该文采用扩散蒙特卡罗方法来求解基态波函数。虽然扩散方程和Schrödinger方程在形式上是相似的,但优化问题约束条件$f\left( x \right)$的引入却破坏了式(12)格林函数的归一性,其格林函数为:

      $$ G\left( {x,{x'},\tau } \right) = {G_{{{\rm{kin}}}}}\left( {x,{x'},\tau } \right)\exp \left( { - \tau V} \right) + o( {{\tau ^2}} ) $$ (13)

      式中,势能项因子$\exp \left( { - \tau V} \right)$破坏了上式的归一性,因此需要向上述格林函数中引入一个收敛因子$\exp \left( {\tau {E_R}} \right)$,使式(12)所描述的系统得到稳定收敛的解,改变后的格林函数是调整后的Schrödinger方程的解,其公式如下:

      $$ \frac{{\partial \psi \left( {x,\tau } \right)}}{{\partial \tau }} = \left\{ {D\frac{{{\partial ^2}}}{{\partial {x^2}}} - \left[ {f\left( x \right) - {E_R}} \right]} \right\}\psi \left( {x,\tau } \right) $$ (14)

      式中,${E_R}$是参考能量,是对当前优化系统能量的估计值;$f\left( x \right) - {E_R}$是系统的势能项,反应优化问题对优化系统的影响。随着优化系统的演化,粒子的分布将不断的变化从而使参考能量${E_R}$不断逼近基态能量。式(14)即为一般意义上优化问题的含时Schrödinger方程。

      建立智能优化算法的Schrödinger方程具有两个重要的理论意义:

      1) 从物理意义上,优化问题通过Schrödinger方程被转化为求解受势能$f\left( x \right)$约束的量子系统的基态波函数${\psi _0}\left( x \right)$

      2) 从数学意义上,将优化问题和优化系统纳入统一的方程描述,即Schrödinger方程这个线性偏微分动力学方程。这意味着量子力学中求解该方程的过程可以用作解释量子动力学理论下的智能优化算法的优化过程。

      通过Schrödinger方程,智能优化算法在量子视角下被转换为一个模拟的物理优化系统,该系统由量子空间中的虚拟粒子组成,优化问题的目标函数转换为加之于该系统的约束势场,而该系统的运行方式符合Schrödinger方程的描述。

      对于智能优化算法的Schrödinger方程,可以通过Feynman积分的方法,利用初态$ \psi \left( {{x_0},0} \right) $在A至B所有路径上的积分,描述粒子从A到B的状态变化。Schrödinger方程任意位置$x$和时间$\tau $的解$ \psi \left( {x,\tau } \right) $可以表达如下:

      $$ \psi \left( {x,\tau } \right) = \mathop {\lim }\limits_{N \to \infty } \int\limits_{ - \infty }^\infty {\left( {\prod\limits_{j = 0}^{N - 1} {{\rm{d}}{x_j}} } \right)} \prod\limits_{n = 1}^N {W\left( {{x_n}} \right)P\left( {{x_n},{x_{n - 1}}} \right)} \psi \left( {{x_0},0} \right) $$ (15)

      式中,$ P\left( {{x_n},{x_{n - 1}}} \right) $为虚拟粒子随机运动的动能相关项,描述了粒子的运动行为,与当前粒子位置$ {x_{n - 1}} $和粒子的质量$m$有关,其公式如下:

      $$ P\left( {{x_n},{x_{n - 1}}} \right) = {\left( {\frac{m}{{2{\text π} \hbar \Delta \tau }}} \right)^{\tfrac{1}{2}}}\exp \left[ { - \frac{{m{{\left( {{x_n} - {x_{n - 1}}} \right)}^2}}}{{2\hbar \Delta \tau }}} \right] $$ (16)

      式(15)中,$ W\left( {{x_n}} \right) $为概率权重项,描述了粒子通过随机运动出现在${x_n}$的几率,与当前采样结果$f\left( x \right)$和参考能量${E_R}$有关,其公式如下:

      $$ W\left( {{x_n}} \right) = \exp \left\{ { - \frac{{\left[ {f\left( {{x_n}} \right) - {E_R}} \right]\Delta \tau }}{\hbar }} \right\} $$ (17)

      式(15)以积分的形式描述了在扩散过程中自由粒子运动和密度的变化,由于标准数值积分方法难以求解该积分,因此采用了扩散蒙特卡罗方法。在扩散蒙特卡罗方法中,如果函数$h\left( x \right)$可以分解为函数$f\left( x \right)$和概率函数$p\left( x \right)$的乘积,则该积分可以表示为$f\left( x \right)$在密度$p\left( x \right)$下的期望,其公式如下:

      $$ \int_a^b {h\left( x \right){\rm{d}}x} = \int_a^b {f\left( x \right)p\left( x \right){\rm{d}}x = {E_{p\left( x \right)}}\left[ {f\left( x \right)} \right]} $$ (18)

      根据式(15),采样密度函数为:

      $$ p\left( {{x_1} \cdots {x_N}} \right) = \prod\limits_{n = 1}^N {P\left( {{x_n},{x_{n - 1}}} \right)} $$ (19)

      状态函数$f\left( {{x_1} \cdots {x_N}} \right)$为:

      $$ f\left( {{x_1} \cdots {x_N}} \right) = \psi \left( {{x_0},0} \right)\prod\limits_{n = 1}^N {W\left( {{x_n}} \right)} $$ (20)

      因此,式(15)可以通过$p\left( {{x_1},\cdots,{x_N}} \right)$密度下的采样和权重函数$ W\left( {{x_n}} \right) $对采样结果的调整来获取:

      $$ \psi \left( {x,\tau } \right) = {E_{p\left( x \right)}}\left[ {f\left( x \right)} \right] \simeq \frac{1}{N}\sum\limits_{i = 1}^N {\psi \left( {{x_0},0} \right)} \prod\limits_{n = 1}^N {W\left( {{x_n}} \right)} $$ (21)

      由“扩散采样−权重调整”组成的迭代循环即为量子力学中求解Schrödinger方程常用的扩散蒙特卡罗方法,其模拟了粒子在Schrödinger方程下通过随机运动向基态能量演化的过程。

      同时,多尺度退火过程是通过逐步降低模拟量子优化系统的动能实现的,公式如下:

      $$ \frac{{\partial \psi \left( {x,\tau } \right)}}{{\partial \tau }} = \left( {{H_T} - {H_V}} \right)\psi \left( {x,\tau } \right) $$ (22)

      式(22)中HT与粒子扩散公式(16)中的搜索尺度是正相关的。其原因是因为在优化过程中,目标函数的规模与模拟量子优化系统的规模不总是一致的,因此需要不断的改变优化系统的搜索尺度HT以匹配动能HV,这也是量子退火中减少能量扰动的原因。

      智能优化算法量子动力学下的基本对应关系和操作汇总如表1

      特别有意思的是量子动力学模型并非想象中的那样给出一个量子化的新智能优化算法,而是得到了一些操作和基本迭代方法。其核心操作主要包括:正态采样、权重计算、多尺度过程,其他很多智能优化算法都可以视为在这一核心操作的基础上进行改进。智能优化算法的量子动力学解释了智能优化算法的量子化本质,为利用量子力学对智能优化算法进行分析提供了基础。

      表 1  智能优化算法量子动力学下的基本对应关系和操作

      智能优化算法的量子动力学解释对应基本迭代操作
      $\dfrac{ {\partial \psi \left( {x,\tau } \right)} }{ {\partial \tau } } = \left[ {D\dfrac{ { {\partial ^2} } }{ {\partial {x^2} } } - f\left( x \right)} \right]\psi \left( {x,\tau } \right)$此方程为智能优化算法的量子动力学方程,从量子力学的角度描述了智能优化算法的迭代演化过程。通过此方程优化问题被转化为求约束态的基态波函数问题。迭代过程
      $V\left( x \right) = f\left( x \right)$将目标函数视为量子系统的约束势能,将优化问题
      视为求最低能量问题。
      求最小值
      $\psi \left( {x,\tau } \right)$智能优化算法量子动力学将智能优化算法的解描述为波函数,
      即解的概率分布。
      智能优化算法的迭代过程
      就是波函数的演化过程。
      量子不确定性原理全局搜索性能和局部搜索性能不能在一个动力学方程中同时获得。多尺度过程,变步长策略。
      参数D对应于扩散系数,其大小与尺度有关,D在多尺度过程中会逐步减小,这一点与量子退火相同。尺度,采样步长。
      $P\left( { {x_1} \cdots {x_N} } \right) = \displaystyle\prod\limits_{n = 1}^N {P\left( { {x_n},{x_{n - 1} } } \right)}$采样密度函数正态随机采样
      $ W\left( {{x_n}} \right) = \exp \left\{ { - \dfrac{{\left[ {f\left( {{x_n}} \right) - {E_R}} \right]\Delta \tau }}{\hbar }} \right\} $概率权重函数,描述了粒子通过随机运动出现在${x_n}$ 的几率。调整粒子密度
    • 从量子动力学可以得到一些Schrödinger方程下的智能优化算法的基本操作,这一结果提示:一些基于不同算法模型的智能优化算法都是从这些基本操作过程中衍生出来的。这一问题似乎也被不少研究者所注意到了,虽然他们可能并未从量子力学的视角去解释,但却发现智能优化算法可能存在“骨架”结构。

    • 粒子群算法(particle swarm optimization, PSO)是Kennedy和Eberhart在1995年提出的一种群体智能优化算法[76]。Kennedy认为这一算法的迭代过程模拟了鸟群的社会行为,这一算法的核心思想是通过个体行为和社会行为的综合来决定每一个体下一步的行为。

      在PSO算法中每次迭代都要保存个体的最好位置${\text{pbest}}$和群体中的最好位置${\text{gbest}}$,每一个粒子的位置更新公式如下:

      $$ \begin{split} & {V_i} = {V_i} + {c_1} \times {\rm{rand}}() \times \left( {{\rm{pbes}}{{\rm{t}}_i} - {x_i}} \right) + \hfill \\ & {c_2} \times {\rm{rand}}() \times \left( {{\rm{gbes}}{{\rm{t}}_i} - {x_i}} \right) \hfill \end{split} $$ (23)
      $$ {x_i} = {x_i} + {V_i} $$ (24)

      式中,学习因子${c_1}$${c_2}$需要人为确定, ${c_1} = {\text{0}}$时粒子运动不考虑自己的个体历史信息,${c_2} = {\text{0}}$时粒子运动不考虑群体的历史信息。其参数值的设定带有很强的主观色彩,什么时候要考虑、考虑多少都是人为定的,这给算法性能优化造成很大的困难。同时由于这一算法最初没有采样尺度的递减策略,其性能并不是太好。直到1998年文献[77]在PSO算法的速度公式中引入递减的惯性权重因子$w$,才使PSO算法成为一个多尺度算法,新的速度计算公式如下:

      $$ \begin{split} & {V_i} = w{V_i} + {c_1} \times {\rm{rand}}() \times \left( {{\rm{pbes}}{{\rm{t}}_i} - {x_i}} \right) + \hfill \\ & {c_2} \times {\rm{rand}}() \times \left( {{\rm{gbes}}{{\rm{t}}_i} - {x_i}} \right) \hfill \end{split} $$ (25)

      在迭代过程中通过逐步减小$w$的值,实现全局搜索和局部搜索的平衡。后来Clerc又增加了控制速度的约束因子$\alpha $,约束因子成为了一个不折不扣的多尺度参数[78],也使PSO算法成为一个多尺度搜索算法。

      $$ {x_i} = {x_i} + \alpha {V_i} $$ (26)

      多尺度策略是智能优化算法量子模型中不确定性原理所预言的一种基本迭代操作[65]。如同量子理论中位置和动量不能同时被测定[64]一样,智能优化算法在同一尺度下不能同时实现良好的全局搜索和局部搜索能力。加入惯性权重后,PSO算法成为一种多尺度群体算法。惯性权重的引入在算法上是正确的,但在模型上却显得牵强,这使得PSO算法逐步离开了Kennedy他们所提出的基本模型。特别是后来大量的改进算法和混合算法更是走得越来越远,PSO也就逐渐成了一个算法名称的符号。

      在PSO算法提出近十年时,也就是2003年左右,Kennedy也意识到PSO算法的参数变化太多而使算法难以理解,因此想简化PSO算法。并且他认为PSO算法与其他算法存在相似性,这一点与采用从量子动力学中得到智能优化算法的基本迭代操作是相似的。因此他提出了PSO算法的骨架(bare bone)算法[79],在这篇文章中Kennedy采用随机正态采样取代了速度,取得了更好的性能。他认为正态采样既有很好的邻域采样能力,又能以较小的概率采到距离当前位置较远的位置。Kennedy在文中也自嘲道:“这样鸟在空间里的‘飞行’就变为‘飞溅’了。”同时他还认为PSO算法和其他的一些进化算法有可能应该被归类到一个统一的优化种类中去。虽然他并未明确地给出统一模型,只是进行粗略的描述,但这一认识可能是对智能优化算法进行统一建模思想的雏形。Kennedy所得到的一些结论与采用量子动力力学作为统一模型所得到的结论几乎完全吻合。就在PSO算法的骨架提出的第二年即2004年的CEC会议上,Kennedy明确放弃了从鸟群模型构造的速度项,提出了一种基于正态随机采样的更为简洁的算法[80],其采样公式如下:

      $$ {x_i} = N\left( {\frac{{{\rm{pbes}}{{\rm{t}}_i} + {\rm{gbes}}{{\rm{t}}_i}}}{2},\left| {{\rm{pbes}}{{\rm{t}}_i} - {\rm{gbes}}{{\rm{t}}_i}} \right|} \right) $$ (27)

      该采样公式表示的是粒子按数学期望为$\dfrac{{{\rm{pbes}}{{\rm{t}}_i} + {\rm{gbes}}{{\rm{t}}_i}}}{2}$,方差为$\left| {{\rm{pbes}}{{\rm{t}}_i} - {\rm{gbes}}{{\rm{t}}_i}} \right|$的正态分布进行采样。每次采样考虑个体的历史最优和群体的历史最优。这里方差的大小决定了算法的采样步长,即尺度。随着迭代的进行,$\left| {{\rm{pbes}}{{\rm{t}}_i} - {\rm{gbes}}{{\rm{t}}_i}} \right|$的值通常会逐步减小。因此,这一算法也等效于采用了多尺度过程,这一点与量子模型下智能优化算法的基本操作是吻合的。2006年Kennedy在参考文献[81]中承认PSO算法参数变化过于复杂,然后对PSO算法的核心操作进行了梳理,并认为在粒子随机采样过程中正态采样是最好的选择。Kennedy对于PSO算法的这种简化是对智能优化算法的基本迭代框架的一种探索,可以认为他是研究智能优化算法基本框架的先驱之一。

      对于其在算法中采用的正态随机采样在量子动力学中也曾早有预言。在扩散蒙特卡罗方法中,量子动力学方程转化为扩散方程,而扩散方程的格林函数就是正态函数,它代表了扩散过程中粒子在下一时刻到达某一位置的概率,其含义就是随机采样时的采样概率函数,从量子力学来看也就是波函数,即粒子出现在某一位置的概率。

      至此Kennedy将PSO算法的演化过程简化为简单的正态概率采样过程,其基本结构与量子动力学给出的智能优化算法基本迭代结构已较为接近,但量子动力学给出的迭代过程则更为简单清晰。

    • 当从智能优化算法的量子动力学的角度去解释智能优化算法的迭代过程时,智能优化算法的核心迭代操作就成为了量子动力学理论框架下的基本要求。有的学者误认为近年提出的“黑洞算法”其结构来源于粒子群算法[82],也有学者将MQHOA算法误认为是一种量子粒子群算法,产生这些误解的原因皆源自智能优化算法可能具有统一的内在核心操作。差分进化算法[83-84]和烟火算法[85]的研究者也纷纷提出自己的“骨架”算法,这些骨架算法都存在相似的基本操作,如概率采样过程、采样步长的变化和群体策略等。通常这些看上去简单的骨架算法都具有不错的优化性能。这更是进一步证明了智能优化算法的核心操作是一种非常有效的操作,它已能满足智能优化算法对性能的基本要求。

      综合量子动力学智能优化算法和其他智能优化算法的“骨架”,可以给出一个较为通用的迭代过程如下。

      定义域内种群初始化;

      while 不满足算法终止条件 do

        while 不满足基态条件 do

          当前尺度下群体正态随机采样;

          由目标函数的采样调整粒子密度;

        end while

        尺度缩减;

      end while

      输出

      以上基本迭代过程看上去非常简单,仿佛也没有任何量子力学的痕迹,但却可以由智能优化算法的量子动力学通过扩散蒙特卡罗分解出来。而如果将正态采样视为格林函数,则其量子的面纱就揭开了。类似的,在QPSO算法中也将其使用的拉普拉斯采样函数视为势阱下的基态波函数[86]

      智能优化算法的基本迭代过程可以作为智能优化算法设计和改进的基础,量子动力学可作为算法分析的理论框架,同时实验结果表明,上述基本迭代操作的骨架算法已出人意料地具有了相当的优化性能。而大量增加了许多操作机制的“重型”智能优化算法却仿佛只是为了走好最后一公里的性能而给出的,这使我们猜想:当目标函数为黑盒且没有针对目标函数做任何先验估计和假设的情况下,骨架算法可能已是“最优”算法了。

    • 从量子视角来认识和研究智能优化算法是一个非常有前景的研究方向,从量子比特概念引入智能优化算法到直接采用量子动力学模型来为智能优化算法建模,该领域的研究正在走向纵深。通过量子视角来研究智能优化算法有望解释智能产生的原因并为研究隐含并行性产生的机制提供一条可行的道路。在当前量子科技成为我国战略性新兴技术的历史机遇下,基于量子技术的智能优化算法研究一定会取得长足的发展。

参考文献 (86)

目录

    /

    返回文章
    返回