向量值与泛函值数据处理的再生核Hilbert空间方法

With the growth of data, effective data processing methods have become an urgent demand for the develepment of science and technology. For processing scalar-valued data, reproducing kernel Hilbert space based methods have been widely investigated and achieved great success. Because of the large demand of processing vector-valued and linear functional-valued data in practical applications, developing the RKHS based methods for these kinds of data will have theoretical significance and application prospect. This project aims at investigating machine learning algorithms and sampling theory for vector-valued and linear functional-valued data in the framework of RKHS. On one hand, we study the structure of commonly used vector-valued RKHSs, the properties of functions, and the inclusion relation between all kinds of vector-valued RKHSs. Based upon these results, we plan to improve the error estimation of multi-task learning algorithms and study how to update and select the operator-valued reproducing kernels in regularization. Moreover, we will also establish the sampling theory for vector-valued functions, including optimal reconstruction algorithm, perfect reconstruction formulas, and optimal sampling points. On the other hand, we will build the theory of a new type of RKHS, in which the general linear functionals can be reproduced. Based upon the theoretical framework, we also develop the machine learning algorithms and the sampling theory for linear functional-valued data.

随着数据信息的与日俱增，有效的数据处理方法已成为科学技术发展的迫切需求。基于再生核Hilbert空间（RKHS）的数据处理方法在标量值数据处理中已经得到了广泛而深入的研究，并取得了极大的成功。面对实际应用中对向量值及线性泛函值数据处理的大量需求，发展处理该类型数据的RKHS方法将具有重要的理论意义和广阔的应用前景。本项目将在RKHS的框架下，研究基于向量值数据和线性泛函值数据的机器学习算法和采样理论。一方面，研究常用向量值RKHS中函数的性质和空间的结构，各种空间之间的包含关系，进而将结果应用于机器学习中，包括改进学习算法的误差估计、建立正则化方法中再生核的更新及最优选取算法。同时，在向量值RKHS的框架下建立向量值函数的采样理论，如最优重构算法、完全重构公式、最优采样点的选取。另一方面，建立用于再生泛函的新型RKHS的理论，并在此基础上发展线性泛函值数据的机器学习算法和采样理论。

再生核方法作为点值泛函数据处理的一种有效方法，已经得到了广泛而深入的研究，并取得了很大的成功。实际应用中处理非点值泛函数据的大量需求迫切要求发展适合此类数据的有效快速处理方法及理论。本项目旨在建立基于非点值泛函数据的函数空间理论，并在此基础上发展有效的数据处理方法。本项目的主要研究进展如下：.首先，我们引入了泛函再生核Hilbert空间（FRKHS）的概念，建立了FRKHS与泛函再生核的一一对应关系，系统地研究了FRKHS和泛函再生核的理论，讨论了具体空间及再生核的构造。作为理论结果的应用，我们还研究了FRKHS框架下的采样和正则化学习问题。.其次，我们通过刻画常见向量值RKHS的包含关系研究了向量值RKHS的结构和性质，并尝试将结果应用于学习算法的误差分析以及再生核的更新与选取。我们将向量值RKHS归结为特殊的FRKHS，从而将FRKHS的采样理论特殊化，进而得到向量值RKHS的采样理论，同时研究了最优采样点的选取问题。.再次，我们将泛函再生核Hilbert空间的理论进一步发展，建立了新的空间，用以处理理论和应用中经常出现的算子值数据。.最后，我们研究了积分方程型数据和高维巨量数据的快速处理方法。这些结果将促使我们进一步研究如何利用泛函再生核Hilbert空间理论和方法对此类数据进行有效处理。