递归神经网络的有限时间收敛模型设计与分析

As a software and hardware implementable approach, recurrent neural network has some potential advantages in real-time processing applications, such as adaptive ability and distributed-storage feature, and thus has become a very active research topic in many fields. Due to the in-depth investigation on recurrent neural networks, the convergence performance of the existing neural networks is hard to be satisfied, which may limit the applications of recurrent neural networks in large-scale data processing and related real-time calculation. Based on the above considerations, this project tries to propose a finite-time convergent recurrent neural network, which has a theoretical and practical significance in promoting the development of recurrent neural network. Specifically, the research content of this project mainly includes two parts. 1) For static problems solving, by developing a specially-constructed nonlinear activation function, a recurrent neural network model will be proposed and investigated for online solution of static problems within finite time. 2) On the basis of the research on the static problems solving, we further study the online solution of time-varying problems. Because time-varying coefficients of time-varying problems can change over time, we have to give full consideration to the impacts of time-varying coefficient on recurrent neural networks. Therefore, by introducing a set of new design method, a recurrent neural network model will be proposed and investigated for online solution of time-varying problems within finite time.

作为一个软件和硬件可实现的方法，递归神经网络在实时应用中有着一些潜在的优势，如自适应能力和分布存储特性等, 因此已成为许多领域十分活跃的研究话题。随着对递归神经网络的深入研究，现有的神经网络收敛特性难以令人满意，从而限制了递归神经网络在大规模数据实时处理和计算中的应用。鉴于此，本课题拟提出有限时间收敛的递归神经网络模型，这对于促进递归神经网络的发展与应用具有重要的理论和实际意义。具体而言，本课题的研究内容主要包括：1）针对时不变问题求解，通过开发一个特别构造的非线性激励函数，拟提出一个能在有限时间内求解时不变问题的递归神经网络模型；2）在时不变问题研究的基础上，进一步研究时变问题求解，由于时变问题的时变系数是随时间动态变化而变化的，因此要充分考虑时变系数对递归神经网络求解的影响，为此，通过引入了一套新的设计方法，拟提出一个能在有限时间内求解时变问题的递归神经网络模型。

随着社会的发展，对递归神经网络的实时处理和计算能力提出了更高的要求，开发出能够在有限时间内收敛的递归神经网络迫在眉睫。本项目为了实现着一目标，针对时变/时不变问题求解，我们在非线性激励函数设计与改进、模型推导公式的设计、有限时间收敛的递归神经网络模型理论分析与应用等方面开展了深入的研究工作，并取得了满意的结果。.一、针对时变/时不变问题求解，应用一个双符号幂非线性激励函数加速递归神经网络到有限时间收敛。相对于传统的张递归神经网络而言，具有更快的收敛速度和更好的精度，并且其收敛时间的上界可以通过计算得出，因此极大地提高了递归神经网络模型的求解性能。.二、为了提高效率，提出一个改进的双符号幂激励函数，它可以进一步加速递归神经网络模型的收敛性能。应用改进的双符号幂激励函数递归神经网络的收敛速度，而且收敛上界更小，这为递归神经网络模型在实际工程领域的应用而言就有重大意义。.三、通过设计新的设计公式，来改善递归神经网络模型的有限时间收敛性能，这是从另外一个新的角度来改进递归神经网络模型。并且，递归神经网络模型能够达到有限时间内收敛，这为改善递归神经网络模型提供了一个新的改进方向，也为递归神经网络模型模型的实际工程应用打下了坚实的基础。.四、有限收敛递归神经网络的应用，主要应用在机械臂的轨迹追踪，多机器人系统协调控制、复数问题求解、预测等方面，这为实际工程应用打下了坚实的基础，也为递归神经网络模型应用到更多的实际工程领域中去提供了有效的借鉴价值。