非凸与非光滑优化的高效率全局收敛算法

科学、工程与经济领域中的很多实际问题，都归结为无约束或约束优化问题，或者与此密切相关的非线性方程组、不动点问题、互补问题和变分不等式问题，并且越来越多的问题是非凸、非光滑的非线性问题。关于光滑凸优化问题的理论和方法的研究比较成熟，已有很多实用的算法，而对非凸优化、非光滑优化问题还缺少有效的方法。本项目拟研究一般的非凸规划问题、min-max-min型非凸非光滑优化、具有代数结构的非凸优化问题、非凸半定规划问题以及图像恢复、图像分割的变分模型中的非凸非光滑优化问题的有效解法及其在图像处理、CAGD、信号处理、数据挖掘、布局问题、鲁棒统计、金融中的应用。将综合利用同伦方法、截断凝聚光滑化方法、样条光滑化方法、多重网格方法、预条件技术等方法和理论，构造高效率大范围收敛算法。在理论上分析所设计的算法收敛性、有效性的基础上，编制相应的软件并通过充分的数值实验验证其实际有效性。

本项目在非凸非线性规划、非光滑优化、非凸非线性半定规划无约束minimax问题的快速算法和半无限minimax问题的截断凝聚光滑化方法等方面进行了深入研究。在min-max-min半无限规划问题转化成双层规划问题使用同伦算法进行求解、非线性代数方程组和非线性微分方程多解问题的大范围收敛有效解法、非线性锥规划和不确定型规划、非线性矩阵方程、结构矩阵分解、图像处理等方面取得了一系列创新成果。三年中，发表(接受发表)论文34篇，其中多篇论文在Math.Comput., SIAM J. Numer. Anal., SIAM Matrix Anal. Appl., Comput.Optim. Appl., J. Global Optim., JOTA等其他国际和国内数学杂志上发表。其中28篇SCI检索，10篇EI检索。