面向协作行为分类的谱系数保序优化方法

Users’ collective behavior classification is an important research area in social network application, we can find that the spectral coefficients ordered constraint learning has excellent smooth ability in pattern recognition. This method can enhance the separability of collective behavior and improve the prediction performance. Spectral coefficients ordered constraint learning has some deficiencies in the research area of users’ collective behavior classification such as overfitting, high computation complexity and insufficient sparse representation. This project primarily focuses research on efficient optimization method about spectral coefficients. Firstly, the project researches on the ability of distinguishing feature space mapping based on different similarity measurements so to create a method which can construct the space alignment and matching principle under the unified framework. The performance of this framework will be measured by the classification accuracy. Secondly, the project researches on the convex optimization solution based on spectral coefficients ordered constraint learning. It designs an efficient corresponding learning transition form and reduces the computation complexity to O(n^2). Finally, the project researches on characters of large-scale and high-dimension collective behavior data. It investigates the labeled weight assignment problem from kernel-PCA and non-negative matrix factorization. It also constructs high-performance constraint sparse learning criterion and solution for classification on multi-label and multi-class data. The project will provide efficient theoretical framework and solution for classification of users’collaborative behavior. Further more, the spectral coefficient ordered constraint learning will also create an area on users’ collaborative behavior pattern learning and application.

用户协作行为分类是社会网络应用下具有重大价值的研究方向，实际应用中谱系数保序优化方法具备很好的数据平滑效果，可以增强协作行为数据的可区分性，提高预测性能。针对谱系数保序优化方法在协作行为分类工作中仍然存在的过拟合、计算复杂度高和稀疏表示力不够等问题，本项目重点研究高效的谱系数保序约束优化方法，首先，研究基于不同相似度指标的度量准则以区分特征空间映射的能力，构建与分类正确率紧密结合的空间对齐和匹配度量准则及其统一框架；其次，研究谱系数保序学习准则的凸优化求解问题，设计高效的快速求解转换形式，并降低计算复杂度至O(n^2)；最后，研究大规模高维用户关系数据的属性特征，从kernel-PCA和非负矩阵分解两种视角构建针对多标签多类数据分类的高效谱系数保序约束稀疏表示及其优化求解方法。本项目将为用户协作行为分类工作提供有效的理论框架和解决方案，也将进一步开拓用户协作行为模式学习及其应用领域的发展。

在用户协作行为分析中，个体行为分析有助于具体描述为什么特定个体行为会在社会媒体上被观察到。研究针对个体关系数据松弛变量转换下，不同度量表示准则的特点及准则之间的相互关系。本项目基于松弛变量转换方法与用户协作行为预测正确率之间的联系，将基于区分度的松弛变量转换与度量表示进行紧密结合，改善分析工作中的过拟合问题，并研究由此形成的度量表示准则所具有的性质以及相关的用户协作行为预测准确率；利用节点间的相似性进行用户协作行为中的关系预测，不同源的数据对象在度量准则的构造和选择上有较大差异性，这就需要我们分析不同度量表示准则的特点以及各种表示准则的相互关系。本项目重点设计分析空间对齐(alignment)和匹配(matching)两种度量表示准则以及它们之间的相互关系，并从理论和方法的角度融合这两种度量表示准则，形成了统一的缓解过拟合的空间对齐和匹配表示准则。. 目前多数针对保序准则优化问题的处理方式是将其转换为半正定规划（SDP）、二次约束型二次规划（QCQP）或者是锥规划形式。它们采用例如one-stage L1 正则方法进行约束，或two-stage 凸组合等方法进行求解形式的转换。虽然一些标准的数值解法（内点法、转换为半无限线性规划等）可以得到合适的解，但其时间复杂度仍然很高，目前最好的时间复杂度仍然高达O(n^3)，这种现状非常不利于大规模数据下用户协作行为分析及其相关工作的开展。本项目在统一的空间对齐（alignment）和匹配（matching）度量准则框架下设计新的求解形式及相关数值解法，将时间复杂度降低到O(n^2),并对优化算法的有效性、收敛性、收敛速度及鲁棒性进行深入研究。我们已经在空间对齐（alignment）准则下取得了O(n^2)的时间复杂度，取得了较好的成果。. 同时，在社会网络高维数据空间中，较多的近邻节点可能属于同一种类别，测试样本将以同类的训练样本线性表出，此时稀疏表示可以提高用户协作行为预测的性能。现有研究方法多是独立求解稀疏解，我们研究一种快速简便的迭代方法并同时考虑不同的权重选取方法。针对用户关系数据属性，分析和研究大规模数据下谱系数保序约束稀疏表示以及其相应的优化求解方法，达到对含有大量高维数据的空间映射，并应用于用户协作行为分类相关工作。