基于认知计算的虚假新闻检测与分析

Fake news is an emerging phenomenon on the Internet recently. The generation and propagation of fake news has severely affected the governments’ public credibility and enterprises’ reputation, bring about negative effects for finance, commerce and other fields, and disorganize the social stability. The study of fake news detection developed from recent two years, and existing methods still cannot support the fake news early detection and propagation analysis works effectively. To solve the challenge, this project integrate the theories from Cognitive Psychology as well as the techniques like knowledge reasoning, network representation learning and multi-domain feature construction, which focus on 1) fake news early detection through content analysis and propagation network analysis, and 2) prediction and intervention of fake news diffusion. This project study the critical subjects with regard to fake news research, including 1) semantic analysis and factual reasoning for fake news, 2) network structure modeling and user behavior analysis during news propagation, 3) fake news detection and propagation analysis based on multi-domain features. By combining the research with practical application, this project will not only propose new solutions and systematic research framework based on cognitive theory for fake news research, but also provide technical support for timely perception, effective judgment and rational intervention of fake news, which is of significant theoretical and practical value.

虚假新闻是近年来互联网上兴起的热点现象之一。虚假新闻的产生和传播会影响政府、媒体的公信力和企业声誉，给社会、金融、商业等各个领域带来潜在风险和负面影响。虚假新闻检测的相关研究从近两年开始兴起，目前已有方法还无法很好地支持虚假新闻早期检测和传播态势预测工作。本项目结合认知心理学相关理论和知识推理、网络表示学习、跨领域特征建模等分析技术，一方面着力于虚假新闻的内容语义与网络传播特征分析和早期检测，另一方面探索虚假新闻的传播态势预测与传播介入工作。通过面向虚假新闻的语义分析与事实推理、新闻传播网络建模与用户行为分析、融合多领域特征的虚假新闻检测与传播态势分析等核心内容的研究，以及和相关部门合作对研究结果进行实战检验，本项目不仅能够为现有的虚假新闻检测与分析工作带来基于认知理论的全新解决思路与系统化研究框架，同时也能为虚假新闻的及时感知、有效研判和合理干预提供支持，具有重要的理论和实践意义。

本项目自2020年启动以来，相关研究工作按照预订计划稳步推进。针对海量动态数据与复杂传播环境下的虚假新闻检测分析与传播预测难题，本项目引入认知心理学相关理论与人脑认知机制，针对项目拟解决的三个关键问题，开展了深入研究：.1) 在微观层面，聚焦语义分析，针对新闻内容真实性分析中遇到的语义稀疏性和关键内容提取挑战，提出了“基于思维自适应理论的隐含语义分析方法”和“基于注意力机制的知识推理”；2) 在中观层面，聚焦网络分析，针对新闻传播网络建模中的传播者角色与行为分析问题，提出了“基于全局结构相似性的节点角色建模”和“面向新闻传播的大规模社会群体角色聚类”；3) 在宏观层面，融合语义、网络等跨领域特征实现虚假新闻的早期检测与传播态势分析，提出了“融合跨领域特征的新闻传播态势预测”和“面向虚假新闻传播的社会群体心理建模”。.本项目执行期间，积累了6篇已发表或待发表的高水平期刊论文，6篇高水平国际会议论文，3项专利，4个自主采集数据集；项目负责人白洁晋升副研究员；依托本项目研发的相关技术支撑了两个国内重要用户单位的实战业务；部分研究工作作为研究基础，支撑了国家自然科学基金管理科学领域重大项目“政策智能理论与方法研究”的建立和开展。