基于深度学习的推荐算法研究

In this project, to address the challenging problems in recommendation systems, i.e., representation learning, data sparsity, cold start and low efficiency, based on the powerful capability of representation learning of deep learning, we will study the recommendation algorithms based on deep learning. Firstly, different from previous works using matrix factorization for recommendation systems, we will apply the deep learning techniques to learning users’ and items’ latent representations. Furthermore, we will combine the deep learning and matrix factorization for recommendations. Secondly, to effectively incorporate the external information, we will study the social recommendation algorithms based on deep learning, and how to enrich rating data matrix. Thirdly, for the recommendation problems, some users are active or some items are shared across different platforms, we will study the recommendation algorithms by sharing feature representations and discovering user clusters, and study the cross-domain recommendation algorithm via consensus regularization. Furthermore, we will develop an effective measure to select the auxiliary source data. Finally, to meet the requirement of real-world applications, we will also design and implement parallel recommendation algorithms based on the Spark coding framework to process large-scale data sets. We expect to publish more than twelve papers in the top and important international journals and conferences, such as IEEE TKDE, KDD, IJCAI, CIKM, ICDM, RecSys and so on.

本项目针对当前推荐系统中存在的特征表示学习、数据稀疏、冷启动以及算法效率低等挑战性问题，基于深度学习在特征学习方面的优越性，拟对基于深度学习的推荐算法展开研究。首先，区别于以往推荐系统中利用矩阵分解技术学习用户和商品的特征表示，研究利用深度学习来学习它们的特征表示；更进一步，研究深度学习与矩阵分解融合的推荐算法。第二，为了集成各种外部信息源，研究基于深度学习的社会推荐算法以及扩充评分数据矩阵的方法。第三，针对跨平台共享相同的用户或商品信息的推荐问题，研究共享特征表示和发现用户聚类的迁移推荐算法，研究基于一致性正则化的多源平台学习的迁移推荐算法，研究选择辅助数据的度量准则。最后，为了满足海量推荐数据的处理需求以及实际应用，研究基于Spark 的高效并行推荐算法。预期在TKDE, KDD, IJCAI, CIKM, ICDM, RecSys等重要国际期刊和会议发表论文12篇以上。

针对当前推荐系统中存在的特征表示学习、数据稀疏、冷启动以及算法效率低等挑战性问题，依据项目研究内容和研究目标，该基金项目执行四年以来，按照计划进行，研究成果覆盖了研究计划中的各项内容。1) 利用深度学习来学习特征表示算法方面，提出了一个名为Bi-STDDP的模型，该模型可以集成双向时空依赖和用户动态喜好，以识别用户在特定时间访问的缺失的POI。2) 在利用外部数据源的基于深度学习社会推荐算法方面，提出点击引导网络(CGN)，用来预测阅读时间，利用顺序模式建模了点击行为对用户兴趣的引导作用，引入点击率预测任务作为辅助任务来更好地理解用户兴趣和标题的关系。3) 在基于深度学习的迁移推荐以及冷启动推荐算法方面，提出了迁移-元框架(TMCDR)，包含一个迁移阶段和一个元阶段。在迁移(预训练)阶段，一个源模型和一个目标模型分别在源领域和目标领域数据上学习。在元阶段，学习一个任务导向的元网络来显式地将用户在源领域的嵌入表示转换到目标领域特征空间。4) 在高效推荐算法方面，提出了对偶重要性感知因子分解机(DIFM)，它从对偶视角(即字段值变化和字段交互)利用用户行为序列中的内部字段信息进行欺诈检测。该模型被应用于全球最大的电子商务平台之一的风险管理系统中，该系统利用该模型提供实时的交易欺诈检测。5) 另外在可解释性推荐算法方面，提出了一种层次可解释网络（HEN）模型来对用户的行为序列进行建模，不仅可以提高欺诈检测器的性能，而且可以解释推理过程。进一步提出了一种解决跨域欺诈检测问题的迁移框架，其目的是从拥有足够和成熟的数据的现有域(源域)转移知识，以提高新域(目标域)的性能。6) 在人才智能招聘算法方面，提出一种基于深度强化学习的、具有高成本效益的推荐系统，为人才提供个性化、可解释、具有持续性的工作技能推荐。.论文成果方面，在Nature Communications, SIGKDD，SIGIR，WWW, IJCAI，AAAI，IEEE ICDM，ACM CIKM，IEEE TKDE，TKDD, IEEE TNNLS，IEEE TOC，Neural Networks等国际顶级、重要会议和期刊发表论文50篇，申请项目相关专利7项。培养学生方面，博士生毕业3名，硕士生毕业3名，另外在学博士生3名，硕士生4名。超额完成了预期目标。