关于多目标函数的稀疏优化模型研究

Sparse Optimization problems refer to looking for the unknown sparse solution or a sparse solution under a linear transformation of a system, it is widely present in the compressed sensing, medical image reconstruction and machine learning fields. In these applications, the optimization model can be represented as a sum of two convex functions with one represents an error function, and the other represents a regular function. Data error function is used to characterize the sample solution and the error between the data system, which is generally based on the assumption that the data is determined by the type of noise, and in many cases, the collected data is often not only affected by a single type of noise. The project approach based on multi-objective error function, explore the convergence of the algorithm corresponding with related sparse optimization model, and under reasonable assumptions on the objective functions, accelerated iterative algorithms will be presented, and the order of convergence of iterative sequence and iteration error estimation will also be given. The resulting algorithm will be applied to the related problems of the image restoration and reconstruction of medical images and other issues.

稀疏优化泛指寻找未知变量的稀疏解或在某一变换下的稀疏解的一类优化问题，它广泛的存在于压缩感知、医学图像重建和机器学习等领域。在这些应用问题中，稀疏优化模型可以表示成两个凸函数相加的形式，其中一个表示数据误差函数，另一个表示正则函数。数据误差函数被用来刻画系统解与采样数据之间的误差，它一般是根据假设数据所受到的噪声类型而确定的，而在许多情况下，收集的数据往往不只受到单一类型噪声的影响，本项目基于多目标误差函数的方法，探讨相应的稀疏优化模型的求解算法以及收敛性，并对目标函数合理假设条件下，研究加速迭代策略，并且给出迭代序列的收敛阶和迭代误差估计，同时将所得算法应用于图像恢复和医学图像重建等问题。

多目标函数之和的稀疏优化问题广泛存在于各种实际问题中，例如图像恢复（包括图像去噪、图像去模糊和图像超分辨率重建）、医学图像重建和机器学习等，它一直受到广大学者的关注。由于稀疏优化模型通常是不光滑优化问题，使得传统的光滑优化方法无法直接使用，而且稀疏优化模型一般包含至少两个凸函数相加的形式，现有的非光滑优化方法没有充分利用模型的结构信息，因此如何对给定的稀疏优化模型，提出有效的算法具有十分重要的研究意义。原始对偶邻近点方法是求解多目标函数之和优化问题的有效方法，它可以使得到的优化序列完全分裂，在计算上避免了线性算子的逆或内循环，大大降低了大规模优化问题的计算复杂性。(1)我们研究了一类具有n+1凸函数相加的稀疏优化模型，其中包含n个具有结构形式为线性变换和凸函数复合的函数。提出了一种新的分裂原始对偶邻近点算法，算法本身充分利用了目标函数的可分离性，每一步迭代都具有显示解，且无需计算矩阵的逆。进一步，我们提出了预方法的加速算法。在一些简单假设下，证明所给迭代算法的收敛性。为验证算法的有效性，我们应用于L2误差损失和L1误差损失以及TV范数相加的具有闭凸集约束的组合优化模型，对同时包含高斯和脉冲噪声的CT仿真数据，我们的算法可以很好的重构原始CT图像，重构图像具有较高的信噪比，同时具有视觉可分辨性。(2)我们提出具有约束的稀疏正则图像重建模型，它不仅包括了各向异性和各向同性TV范数重建模型，而且可以推广到其他CT重建模型。进一步，我们提出了一类具有约束的先验图像信息压缩感知模型，利用一种新的变量分裂思想，将原问题转化为两个凸函数之和，并基于原始对偶方法，建立迭代算法。通过CT图像重建实验，表明我们的算法在信噪比和重建时间等指标上优于现有的ART-POCS算法。(3)我们提出具有自适应步长的原始对偶算法求解三凸函数相加的极小化问题，有效克服了原算法迭代参数依赖于给定算子范数的不足，数值实验结果表明原算法得到有效的加速。