某些结构非凸优化问题的最优性条件与方法

Modern variational analysis can be viewed as an outgrowth of the calculus of variations and convex optimization, where deal with generalized differentiation of (convex and nonconvex) functions, set-valued mapping and the geometry of tangent and normal cones of (convex and nonconvex) sets, and also the sensitivity and stability analysis of optimization problems and others. In this project, we shall explore two classes structured nonconvex optimization problems based on variational analysis. These problems have wide applications background in signal processing, image recovery, machine Learning and statistics. The aim of this project is to study stationary point, optimality conditions and constraint qualifications of these two kinds of optimization problems by using variational analysis, convex optimization and matrix optimization, to construct reasonable algorithms for solving these problems, and to discuss the convergence and complexity of the methods.

现代变分分析可以看成经典的变分法和凸优化的自然产物，它研究凸和非凸函数，集值映射的广义可微性，凸和非凸集切锥和法锥的几何性质以及优化问题的敏感性和稳定性等。本项目以变分分析为工具研究两类结构非凸优化问题。这些问题在信号过程、图像处理、统计分析和机器学习中有广泛应用背景。项目旨在综合运用变分分析、凸优化和矩阵优化的知识探讨两类优化问题的稳定点、最优性条件和约束品性; 针对问题的结构特点设计合理的优化算法，利用变分分析的理论研究算法的收敛性和复杂度。

本项目以变分分析为工具研究两类结构非凸优化问题。这些问题在信号过程、图像处理、统计分析和机器学习中有广泛应用背景。 针对稀疏结构优化问题，研究了同时具有凸集和稀疏约束的优化问题， 借助包络函数及稀疏集指示函数的二次上图导数，给出了增广拉格朗日乘子存在的一阶和二阶最优性条件； 研究了基于分析稀疏正则的组结构稀疏学习问题，建立了优化问题的Fenchel对偶问题，给出了特征选择方法；研究了含有阶跃函数的稀疏优化问题，给出复合函数二阶次导数的公式，进而给出二阶必要条件和充分条件；提出了一种基于端元自适应不相关和空间约束的高光谱稀疏优化解混方法。 针对块结构复合优化问题，研究了约束优化问题和复合优化问题的增广拉格朗日方法的收敛性；变分包含正则间隙函数的可微性及解的局部唯一性；在Banach空间框架下研究了两个凸函数和极小化问题的向前向后分裂算法，证明了函数值序列渐进收敛于优化问题的最优值；提出了3块可分凸优化问题的一个修正邻近乘子交替方法，在不需要任何分量强凸性的条件下，证明了算法的收敛性 。