大规模社交网络分布式表示学习研究与应用

Representation is one of the basic key problems of mining social network using machine learning methods. The recent innovation of distributed representation learning, which represents words, texts and users as low-dimensional dense vectors and maintains the semantic information of words, texts and structural relationship of users, points out a new way for the representation and analysis of large-scale social network. In social network, the number of nodes is extremely large, while the texts are very short and containing many new words and low-frequency words. But the current distributed representation model is mainly designed for the traditional long text and small networks. They ignore the massive social text information of nodes and distributed representation learning of user relations. This proposal takes the distributed representation learning of short text, user and user relationship in social networking as the research objects. We study the distributed multi-source fusion representation of short text based on the external knowledge, and the distributed representation of users using network structure and user texts based on the learnt word vectors. We also study the distributed representation of user relations based on the interactive information content and build an experimental system for representation learning and applications in large-scale social networks. Our studies are the basic foundation of large-scale social network analysis and mining.

表示问题是机器学习算法高效应用到社交网络分析挖掘的关键基础问题之一，近年来兴起的分布式表示学习将词语、文本、用户表示为低维稠密向量，并保存词语、文本的语义信息和用户的网络结构信息，为大规模社交网络的表示建模与快速计算指明了方向。但是，社交网络规模异常庞大而文本内容具有短文本、新词多、低频词多等特点，而当前分布式表示模型主要针对传统长文本和小规模网络进行设计，忽视了网络节点的丰富文本内容和用户关系的分布式表示学习。本项目以社交网络短文本、用户以及用户关系的分布式表示学习为研究对象，研究基于外部知识的多源融合短文本分布式表示模型，在训练得到的词向量基础上，研究基于网络信息流和博文内容的社交网络用户分布式表示模型和当前罕有研究的交互信息内容敏感的用户关系分布式表示模型，并构建大规模社交网络表示学习应用验证原型系统，为大规模社交网络分析挖掘奠定基础。

针对社交网络规模异常庞大而文本内容具有短文本、新词多、低频词多等特点，研究大规模社交网络分布式表示学习技术。首先，研究社交网络用户短文本与图片分布式表示模型Vec2vec，实现对社交网络内容的表示学习。其次，研究社交网络用户分布式表示模型及其应用技术，突破了基于实体表示聚合的知识图谱实体链接算法和基于用户命名模式的多视角的中文用户实体对齐技术等。再次，研究社交网络用户关系分布式表示模型，突破了基于预训练语言模型的用户关系联合抽取链接模型、基于用户关系交互的静态知识图谱表示推理模型等。最后，社交网络用户关系分析原型系统，实现对上述三项研究成果的应用检验。本项目的实施，将为大规模社交网络的高效计算奠定基础，研究成果可应用于舆情分析、网络营销推广、开源情报分析等应用中。