基于神经网络和群体智能的稀疏表示算法研究

In recent years, with the development of the theories of compressed sensing, sparse representation has been widely used in signal processing and pattern recognition. For large and complex optimization problems, it has become more important and difficult for seeking fast and efficient algorithms. Since the 1980's, the neurodynamic method has got a deep study for large-scale complex optimization, and achieved fruitful results. This project aims to study the neural networks and swarm intelligence for sparse representation algorithms. The research contents are focused on the following four aspects: First, the mathematical models for sparse representation will be improved and extended, and the corresponding theoretical foundations of mathematics will be established; Second, the neurodynamic models for solving combinatorial optimization problems will be investigated; Third, the distributed sparse representation algoriths based on multi-agent systems will be designed; Fourth, the sparse representation algorithms based on swarm intelligence optimization will also be designed. The project combines the neurodynamic optimization with the swarm intelligence optimization, which is expected to design some new algorithms for sparse representation and establish the appropriate theoretical basis. The project will promote the development of network dynamical optimization theory and applications, and has important theoretical significance and application values for the development of pattern recognition theories and methods.

近年来，随着压缩感知理论的发展，稀疏表示方法在信号处理和模式识别的研究中得到越来越广泛的应用。对于大规模复杂的优化问题，寻找快速有效的算法成为当前研究的重点和难点问题。自上个世纪八十年代以来，神经动力学方法在大规模复杂优化的计算中得到深入的研究，取得了丰硕的成果。本项目旨在研究基于神经网络和群体智能方法的稀疏表示算法，研究内容主要集中在如下四个方面：一、改进和推广稀疏表示的数学模型，建立相应的数学理论基础；二、建立求解组合优化问题的神经动力学优化模型；三、设计基于多智能体系统的分布式稀疏表示算法；四、设计基于群体智能优化方法的稀疏表示算法。本项目将神经动力学优化方法与群体智能优化方法相融合，有望设计出新的稀疏表示算法，并建立相应的理论基础。本项目的研究工作将促进网络动力学优化方法在理论研究和应用领域的发展，并且对于模式识别理论和方法的发展具有重要的理论意义和应用价值。

本项目以申请书的研究内容为基础，按计划顺利完成了既定目标，取得了相关的研究成果，主要包括如下几个方面：.1、在理论方面取得了如下创新性成果：(1) 构建了基于投影神经网络的稀疏表示算法，并提出了零到稀疏算法用于约束L1范数的优化问题求解，并将其应用于解决模式分类问题。与以往的稀疏算法相比，这种算法对信号的大小具有很强的鲁棒性，其收敛速度受信号大小的影响较小，并且该算法可以有效地控制稀疏度的设定以达到快速获取问题的解；(2) 建立了基于多智能体系统的分布式优化算法设计方案。我们开创性地建立了求解带有边界约束的分布式优化问题的二阶多智能体系统，此方法推广了多智能体系统在分布式优化求解中的应用范围，研究结果得到国际学术界的广泛关注；(3) 建立了基于群集神经动力学网络的分布式优化算法设计方案。通过耦合已有的神经动力学优化模型，可以建立相应的连续时间分布式优化算法，进而有效地求解大规模复杂优化问题。.2、在应用方面取得了如下突破性成果：(1) 建立了用于模式分类问题的投影神经网络模型。通过将稀疏表示问题转化约束L1范数的优化问题，利用最优性条件建立相应的投影神经网络模型，进而设计相应的优化求解算法，并将其应用于人脸识别；(2) 研究了基于深度神经网络和复杂网络特征描述的脑电信号分类问题。通过构建恰当的复杂网络结构，并提取其网络结构特征，可以提高脑电信号的分类识别率。.3、该项目发表论文25篇，其中IEEE汇刊论文11篇，SCI源刊论文13篇，EI收录论文11篇。项目实施过程中，项目负责人入选华中科技大学“华中学者”和江苏省“333工程”培养对象，担任国际SCI期刊IEEE Transactions on Neural Networks and Learning Systems 、IEEE Transactions on Cybernetics和Neural Networks的编委。项目组成员Tingwen Huang教授2018年当选IEEE会士。