基于神经动力学优化方法的几类优化问题研究

The neurodynamic optimization approach is an important approach to solve real-time optimization by the artificial neural network, and has wide applications in various engineering problems. Based on the theory of neural network, optimization and nonsmooth analysis, we will study three optimization problems: bi-level programming problem, nonsmooth complex-variable pseudoconvex optimization and stochastic variational inequalities. In theory, we will present some new optimal conditions of the above three optimization problems (or their approximated problems), and propose some effective neural networks. In algorithm, we will study the convergence of the state of the proposed neural networks, such as exponential convergence and convergence in finite time. Finally, we will apply the above conclusions into three practical problems to demonstrate the effectiveness of the proposed approach.. This project, not only enriches and advances the theoretical research of the above three optimization problems,but also improve the research and applications of the neurodynamic optimization approach.

神经动力学优化方法，是一种利用人工神经网络求解实时优化问题的重要方法，目前已被广泛地应用于各种工程问题中。基于神经动力学优化方法，以神经网络理论、最优化理论、非光滑理论为基础，本项目将重点研究现实生活中广泛存在的双层规划、非光滑复变量伪凸优化、随机变分不等式等三类非凸优化问题。理论上，给出这三类优化问题（或其逼近问题）最优性理论的最新判据，并设计更有效的神经网络模型求解相应的优化问题；算法上，研究神经网络状态解的收敛性，特别是指数稳定性和有限时间收敛性。最后，利用上述研究成果求解三类实际问题，以此来说明算法的有效性和实用性。. 本项目的研究，不仅丰富和发展了双层规划、非光滑复变量伪凸优化、随机变分不等式等三类非凸优化问题的理论研究，还将神经动力学优化方法的理论研究与应用推向了新的高度。

神经动力学优化方法，作为一种利用连续时间人工神经网络模型求解优化问题的重要方法，因其在计算效率、模型稳定性、大规模并行处理能力等方面的优势，被越来越多的学者关注。本项目以人工神经网络理论、最优化理论等为理论基础，重点研究了现实生活中广泛存在的双层规划、非光滑复变量伪凸优化、随机变分不等式等三类非凸优化问题，取得的主要成果有（1）研究了双层规划对应的松弛法、惩罚参数法以及光滑近似问题的特点，分别给出了一阶最优性条件的最新判据，并设计了相应的神经网络模型。基于非光滑的Lojasiewicz 不等式研究了神经网络平衡态的指数稳定性和有限时间收敛性。（2）研究了带有等式和有界约束的非光滑复变量伪凸规划问题，设计了结构简单、不依赖于惩罚参数、可以有限时间进入可行域等优点的神经网络模型。同时，针对某些具有特殊结构的非光滑伪凸优化问题，分别设计了性能优越的神经网络模型。特别地，设计了带有不同激励函数的复值Zhang神经网络求解带有时变参数的复变量二次优化问题。（3）给出了两阶段随机变分不等式确定性模型及其最优性条件，设计了相应的神经网络模型求解该变分不等式。（4）将上述研究成果推广到了多智能体分布式优化尤其是非光滑非凸分布式优化问题中去，例如设计了一类递归神经网络模型求解带有等式、不等式约束的非光滑非凸分布式优化问题，设计了基于自适应的神经网络求解带有不等式约束的分布式非光滑凸优化问题等。.本项目的研究成果，不仅为双层规划、非光滑复变量伪凸优化、随机变分不等式等三类非凸优化问题的求解提供了更好的算法，还为神经动力学优化方法的理论研究以及在非凸优化领域的研究提供了新思路。