对抗学习中的博弈模型研究

Machine learning and pattern classification methods are playing important role in many applications relating to the security of information and systems, especially on network. Different from traditional application scenarios, classifiers working in adversarial environment are always facing some hostile users who are intending to modify their behaviors or disguise their messages to defeat the system and achieving illegal or deceitful goals. In order to defense the adversaries, classifiers should be designed using strategies different from ordinary machine learning methods. In these scenarios, classifier and adversary are game opponents, ones' strategy should affect the others' decision and behavior. Different from the predecessors' works using the strategy of defense after attacking, this project will study the approaches for classifier designing and decision making, which will base on the equilibrium strategies of game theory models. The achievements of this project should build a certain foundation for classifier designing in adversarial environments, attacking and defensing strategies selection in network and information security fields.

在越来越多与网络、信息和系统安全相关的应用中，机器学习和模式识别方法起着关键的作用。与传统识别和分类应用场景不同，这类系统往往需要面对一部分恶意的用户，他们会采用各种手段欺骗和攻击分类器，使其做出错误的判断和决策，从而达到其非法的目的。分类器必须改变传统的机器学习方法，采用对抗的方式进行设计和决策，才有可能更好的抵御攻击，保证安全。对抗环境中的分类器和攻击者之间实际上构成的是一种博弈关系，任何一方的策略都会影响到双方的利益和行为选择，本课题改变现有对抗学习的简单攻防研究方式，将分类器设计和双方的决策建立在博弈模型的均衡策略基础之上，有望提高攻防手段的有效性。课题的研究成果将为对抗环境中的分类器设计以及网络信息攻防策略选择打下一定的理论基础。

机器学习和模式识别方法越来越多地应用于与安全相关的领域，系统依据输入的特征判别被检测对象的合法性。在这类工作环境中，不可避免地会有人恶意地对系统发起攻击，分类器与恶意用户之间构成了一种对抗的关系。在对抗环境中，针对攻击者的攻击手段、分类器系统的可靠性设计的研究称为对抗学习。本课题开展了分类器学习阶段最优翻转标签问题的研究，以训练样本集和攻击样本集概率分布的非参数估计为基础，提出了一种极小-极大优化问题的近似最优求解方法，实现了在攻击者未知分类器设计信息的条件下，针对任意分类器学习算法的快速有效翻转标签的攻击；在分类器识别阶段，本课题对最小代价入侵问题开展了研究，提出了一种凸代价函数在凸判别空间中的随机渐进最小代价攻击算法，将现有研究由l1函数拓展到了一般的凸代价函数；提出了一种分类器边界样本的快速生成算法，以及全局神经网络与局部线性SVM相结合的目标分类器逆向学习方法，实现了对任意分类器、任意代价函数的最小代价入侵；提出了一种弱标记样本直推式学习方法，实现了对于包含噪声的弱标记多标签样本集的鲁棒学习。