光滑技术在大规模矩阵优化问题中的应用研究

As an important issue of computational mathematics and scientific engineering calculation, the numerical computation of large scale matrix optimization problems (MOPs, for short) has important significance in theory and extensive application value. There are two methods for large scale MOPs, one applies the interior point menthod after converting problems into the semidefinite programming, which is powerless for large scale MOPs, and the other mainly utilizes the first order proximal point algorithm and the augmented Lagrangian method for MOPs. This project proposes a smoothing second order proximal point algorithm for MOPs, whose inner subproblems are solved by the smoothing-type method. In this project, we investigate the properties of proximal point mapping, which is contained in the first order derivative of the objective function of MOPs, and obtain the equivalent expressions to proximal point mapping by using Moreau decomposition. We also investigate whether the proximal point mapping can be transformed to the metric projection on the closed convex set or not, and then smoothly approximate the proximal point mapping by smoothly approximating the equivalent expressions or metric projection. This project aims to design a smoothing second order proximal point algorithm, choosing suitable parametars and giving verifiable stopping rules to guarantee the convergence of our algorithm. Besides, numerical experiments will be carried out for large scale MOPs.

大规模矩阵优化问题的数值计算，是当今计算数学和科学工程计算研究的重大课题，其研究具有重要的理论意义和广泛的应用价值。现有的求解方法有两类：一类是内点法,将问题转化为半定规划，再用内点法求解，这种方法在问题规模很大时几乎不可行；另一类是一阶邻近点算法和增广Lagrangian方法。本项目考虑二阶邻近点算法，内层子问题的求解采用光滑型方法。内层子问题目标函数的一阶导数中出现了邻近点映射，它是非光滑的。基于闭凸锥上的光滑技术，本项目以凸分析和矩阵分析理论为工具，研究邻近点映射的性质，并结合Moreau分解等，给出邻近点映射的等价表达式，通过对等价的表达式或者由邻近点映射转化成的度量投影进行光滑处理，实现邻近点映射的光滑逼近，从而设计一种光滑二阶邻近点算法求解大规模矩阵优化问题。选取合适的参数，给出可验证的终止规则，以保证算法有好的收敛性，编写程序对大规模矩阵优化问题进行数值计算。

矩阵优化问题包括矩阵锥规划、半定规划问题、秩极小化问题、矩阵完全问题等数值解法的理论研究、算法设计和软件研制，是当今计算数学和科学工程计算研究的重大课题，是科学与工程计算的基础和重要组成部分，其研究具有重要的理论意义和广泛的应用价值。现有的求解方法有两类：一类是内点法,将问题转化为半定规划，再用内点法求解，这种方法在问题规模很大时几乎不可行；另一类是邻近点算法和增广Lagrangian方法。设计二阶邻近点算法求解矩阵优化问题时，内层子问题目标函数的一阶导数中出现了邻近点映射。本项目研究邻近点映射的性质，对其进行光滑处理，实现其光滑逼近；对与邻近点映射相关的优化问题，设计光滑型算法求解。主要包括以下几方面研究内容：首先针对对称锥上的投影这个邻近点映射，项目组研究了相应的理论性质，设计了光滑型算法求解其相关的优化问题----对称锥上的非单调线性互补问题，并证明了算法是全局收敛和局部二次收敛的。其次针对凸可行问题，利用度量投影这个邻近点映射及其光滑逼近，项目组设计了光滑型方法求解，在每次迭代时至多求解一个线性方程组，算法是全局线性收敛和局部二次收敛的。最后针对NP-难的奇异值超过1的绝对值方程，利用n维实向量空间上的投影这个邻近点映射，设计了改进的广义牛顿法求解，算法全局收敛且局部二次收敛。在项目进行中，考虑到有些问题需要进行参数估计和寻求全局极小点，一方面，项目组提出了基于均值漂移模型的HIV动态统计诊断，用于在存在一些噪声数据特别是一些异常值的噪声数据的情形下进行参数估计；另一方面，项目组提出了一类参数线性松弛算法，用于求非凸二次规划的全局极小点，该算法可用于热交换网络的设计。光滑型方法和邻近点算法的结合是我们下一步的目标。