融合深度核学习的灰色预测建模方法及其应用研究

One main reason for the complexity of objects is caused by nonlinear law of the objects and the lack of data. Study of predictive modelling method under the conditions with small samples and nonlinearities plays an important role in predicting such complex systems. This project is going to combine the deep kernel learning method and the grey models, aiming at taking advantage of the ability in small sample prediction and nonlinear prediction of them, and building new models which are applicable for the nonlinear prediction with small samples. First, the generalized unbiased modelling theory of the grey model in the deep kernel reproduced Hilbert space will be studied, along with two classes of semi-parametric regularized problems along with its dual problems. Second, the training algorithm and auto-tuning algorithm will be designed. The convergence, convergence rate and stability will be validated based on the benchmark data sets, along with the accuracy and generalization of the models. At last, the above methods will be applied in the unconventional gas production prediction, which will provide decision support to the planning and management of the unconventional gas reservoirs. This project will provide an efficient modelling method to research the complex systems with small samples and nonlinearities, and make contributions to effectively combining the grey prediction theory and deep kernel learning theory. Meanwhile, it will also provide a new effective quantitative analysis method for the study of predicting unconventional gas production of China.

研究对象自身的非线性规律和数据稀缺性是导致其复杂性的主要因素之一，研究小样本非线性下的预测建模方法是解决复杂系统预测问题的重要手段。本项目拟将深度核学习方法融入灰色预测模型，充分发挥二者在小样本和非线性预测领域的性能优势，构建适用于小样本非线性预测的新模型。首先，研究灰色模型在深度核再生Hilbert空间中的广义无偏建模理论，建立两类正则化问题并研究其对偶问题；然后，设计模型训练算法和自动调优算法，并在标准数据集中对算法的收敛性、收敛速度和稳定性以及模型的精度和泛化性能进行分析和检验；最后，将上述成果应用于具有小样本非线性数据特征的我国非常规气藏产量预测问题，为非常规气藏的规划管理提供决策支持。本项目为研究小样本非线性复杂系统提供了一种有效的建模方法，对促进灰色预测理论与深度核学习理论的有效融合具有积极意义，同时也为研究我国非常规气藏产量预测问题提供了一套有效的定量研究方法。

“小样本、复杂非线性”问题广泛存在于自然科学与社会科学的诸多领域，具有此类特征的预测问题也是预测理论与方法领域中的难点之一。本项目提出一类融合深度核学习方法与灰色建模方法的预测建模方法，分别从建模基础理论（包括无偏建模机理和正则化问题）、模型算法体系和应用实践三个方面开展了系统性研究。.在理论研究方面，本项目提出了非线性灰色模型的一般方法，推导了广义无偏灰色模型的参数换算公式并证明了相关无偏性定理。相关成果支撑了本项目后续建模与算法研究的所有成果，同时为同行开展相关预测建模与实践研究提供了理论基础与研究方法。.在算法研究方面，首先推导了模型正则化问题的最优性条件，得出了模型线性参数的解析算法。其次，进一步构建了多类模型非线性参数估计的非线性优化问题，采用多类智能优化算法（如PSO、灰狼算法等）对其进行求解，通过大量实例验证了算法的收敛性和收敛速度。最后，利用嵌套交叉验证的思想设计了模型超参数的寻优策略，分别利用网格搜索、智能优化算法设计并实现了模型的超参数自动调优算法。上述算法思路目前已被国内外同行广泛用于非线性灰色模型的非线性参数优化或超参数调优问题。.此外，引入Rosen投影梯度算法设计了深度核学习模型的训练算法，现有测算实例表明该类算法是当前效率最高（相对半解析算法和常规梯度下降算法收敛速度最快、稳定性最好）的训练算法。同时此类算法具有较好的通用性，可广泛用于各类正则化灰色模型的参数训练问题，因此具有较高实用价值和学术价值。.在应用研究方面，本项目已按照研究计划完成了多个国内油气藏（井）的产量预测分析，结果表明本项目提出的预测建模方法能够更好地适应我国非常规油气藏（井）产量变化规律。此外，通过与国内外多学科学者的合作，本项目建立的预测模型也已被应用于能源环境经济、油气藏开发及储运工程等多个应用领域。现有应用结果表明本项目提出的预测建模方法具有较好的应用前景。