一类非凸非光滑约束优化的光滑化算法及应用

非凸非光滑约束优化是求解较困难，而应用背景又非常广泛的优化问题。本项目拟针对一类具体的非凸非光滑约束优化展开研究，这类问题的特点是非光滑项包含极小值算子和绝对值算子，约束区域是简单闭凸集，问题规模较大。本项目试图对该类优化问题的光滑化算法及两个实际应用进行深入研究，具体内容包括：（1）进一步探讨与扩展简单凸约束下的大规模光滑优化投影梯度方法；（2）发展新的光滑化技术并结合已有基础，探讨光滑化方法与光滑优化的其它经典算法相结合的技术，设计求解该问题的具有全局收敛性、稳定性能好、快速的高效算法；(3) 探讨不确定性交通均衡问题和分片光滑性医学图像重建问题的自身结构及模型特征，应用新算法求解并编制实用有效的数值软件。

本项目对一类非凸非光滑约束优化的光滑化算法及应用展开研究。取得的研究成果主要集中在算法应用方面。首先，我们探讨了一类非凸非光滑模型—最小期望残差模型的解的存在性等的理论性质。在交通规划领域，我们考虑了不确定交通均衡问题，给出了在随机需求和供给下的稳健Wardrop用户均衡：最小期望残差模型。在最近提出的各种随机环境下的交通规划模型中，大部分考虑不同用户对不确定性所做出的反应，而我们的模型则重视从交通规划者的角度看问题。我们从理论上证明了该模型的解的存在性和稳健性，并在中等规模的交通网络Sioux Falls中利用光滑投影梯度(SPG)算法求解模型。数值试验上，通过与其它现有模型的比较解释了我们提出模型的特点。在图像处理方面，我们给出了带非Lipschitz连续lp正则项的盒子约束的最小二乘模型用于图像恢复，理论上证明了此模型有助于恢复分片光滑图像，数值实验针对日常生活中的图像和核磁共振医学图像利用光滑投影梯度算法求解，与流行的全变分模型相比取得了更好的效果。此外，还考虑了带半监督信息的非负矩阵分解模型用于图像分类，这是一类非凸的矩阵优化问题，给出了近似交替最小二乘算法证明其收敛性，数值试验证明了模型和算法的有效性。..共发表中文期刊论文1篇，SCI期刊论文5篇，其中有1篇发表在交通规划领域顶尖期刊Transportation Research Part B, 另外有2篇发表在图像处理领域的顶尖期刊IEEE Transactions on Image Processing. 利用此项目，培养1名研究生毕业，2名研究生在读。