面向攻击语境的社交网络危害信息检测方法及其验证与测试研究

With the rapid popularization of social networks, the dissemination of information on social network shows the characteristics of fast propagation, wide spread range and wide spread influence. However, social networks are flooded with a great deal of harmful information such as rumors and fake news, which seriously affect social stability and the healthy development of the Internet. Therefore, it is important to ensure the security of social network information dissemination.Currently, artificial intelligence methods such as machine learning and deep learning are widely used in the security analysis and detection of social network information dissemination. However, such artificial intelligence-based security analysis and detection methods have some problems that are weak to resist attack and hard to credibly verify and test the model in security.This research focuses on analyzing the behavior characteristics of the harmful information dissemination in social networks. By combining the theories and methods of software testing, program verification and so on, the main study is on the intelligent detection methods of social network information that can resist attacks, test a model security algorithm for counterattack and attributes of the models for formal verification.This research has very important scientific significance and application value to promote the research on the security of social network information transmission and the application of artificial intelligence in the social network communication.

随着社交网络的快速普及，信息在社交网络上传播呈现出传播速度快、范围广和影响面大等特点。然而，社交网络上充斥着大量的危害信息如谣言、虚假信息等，严重地影响社会稳定与互联网的健康发展。因此，保障社交网络信息传播的安全性变得尤为重要。目前，机器学习、深度学习等人工智能方法被广泛地应用于社交网络信息传播的安全性分析与检测中。然而，这类基于人工智能的安全分析与检测方法存在抵御对抗攻击能力弱、模型的可信性验证与安全性测试困难等问题。本课题重点分析社交网络中危害信息传播的行为特征，结合软件测试、程序验证等领域的理论与方法，重点研究可抵御对抗攻击的社交网络危害信息智能检测方法、面向对抗攻击的模型安全性测试算法以及检测模型的安全属性形式化验证方法。本课题对推动社交网络信息传播的安全性研究、人工智能方法在社交网络传播中的应用等方面的发展，具有非常重要的科学意义和应用价值。

随着社交网络的快速普及，信息在社交网络上传播呈现出传播速度快、范围广和影响面大等特点。然而，社交网络上充斥着大量的危害信息如谣言、虚假信息等，严重地影响社会稳定与互联网的健康发展。因此，本课题重点分析社交网络中危害信息传播的行为特征，设计了特征向量化算法，实现三元模式特征的聚合表示，提高了危害信息鉴别的准确率。针对社交网络中异常节点的发现，分析正常节点与被劫持节点的行为特征差异，设计多元特征的表示方法，提高了被劫持节点的识别准确率；针对社交网络中的关键节点与节点向量化表示复杂度高的问题，研究基于社区划分的关键节点搜寻算法，提高了关键节点挖掘算法的整体时间效率，为基于传播路径的危害信息检测方法提供了有效的支撑。针对生成危害信息的对抗样本的测试用例问题，提出了基于WGAN-gp的结构化测试用例生成方法，在相对较短的时间内精确捕捉数据结构化特征，显著改善了AFL在速度、覆盖率和mapsize等面的表现；针对黑盒设置下，提出了基于微生物遗传算法的对抗样本生成算法，极大减少了搜索次数，同时生成的对抗样本能为DNN模型的测试和验证工作提供数据支持；针对测试用例搜索过程带来的时间与空间消耗的问题，引入蒙特卡洛搜索算法，通过对种子池中进行变异优先度调整，从而最大程度上使测试获得更高的神经元覆盖率，在维持样本语义的同时提高了整体系统的覆盖率，并生成了保持对抗样本性质的测试样本。针对对抗样本对于深度学习模型的攻击威胁，提出了将对抗样本划分为脆弱对抗样本和鲁棒对抗样本的分治策略，在CIFAR-10和ImageNet上的实验结果表明，该方法能够取得99.30和99.62的AUC值。针对神经网络的鲁棒性验证问题，提出了基于对松弛程度与影响力启发式评分的分支定界法，并设计了一种基于CROWN的传播框架改进的算法，实现了对含Sigmoid或tanh网络的更精确的验证。本课题提出的研究方案对推动社交网络信息传播的安全性研究、人工智能方法在社交网络传播中的应用等方面的发展，具有非常重要的科学意义和应用价值。