视觉分类任务中基于高阶统计建模的深层卷积神经网络方法研究

Visual classification is one of the most fundamental and important topics in artificial intelligence, and it plays an indispensable role in many applications associated with artificial intelligence. The rapid development of deep convolutional neural networks significantly improves performance of visual classification methods and pushes visual classification to a new era. However, it is necessary and urgent to design accuracy, robust and efficient visual classification methods to handle huge numbers of classes and drastic changes of natural objects. This project focuses on studying deep convolutional neural networks based on high-order statistical modeling for challenging visual classification tasks, which includes the following three parts. (1) Understanding the mechanism underlying high-order statistical modeling methods in deep convolutional neural networks. (2) Developing a variety of accuracy and robust deep convolutional neural networks based on high-order statistical modeling for some specific problems and tasks. (3) Designing lightweight deep convolutional neural networks based on high-order statistical modeling methods by using model compression technologies. The goal of the above research is to improve accuracy and robustness of deep convolutional neural networks in challenging visual classification tasks, and provide theoretical and technical supports for development of artificial intelligence in our country.

视觉分类技术是人工智能领域最为基础和重要的研究课题之一，在众多人工智能相关的应用中均扮演着不可或缺的角色。深层卷积神经网络的兴起大幅提升了视觉分类方法的性能，将视觉分类问题推向了一个全新的阶段。然而由于自然界中物体的种类非常繁多且变化多样，因此研究复杂场景下精准、鲁棒和快速的视觉分类方法仍是一个亟待解决的问题。本项目围绕复杂视觉分类任务中基于高阶统计建模的深层卷积神经网络开展以下三个部分的研究。（1）探析高阶统计建模方法在深层卷积神经网络中的作用机理。（2）根据具体的问题和任务提出多种精准、鲁棒的基于高阶统计建模的深层卷积神经网络。（3）利用模型压缩技术设计基于高阶统计建模的轻量级深层卷积神经网络。通过以上研究，显著提高深层卷积神经网络在复杂视觉分类任务中的准确率和鲁棒性，为我国人工智能的发展提供理论保障和技术支持。

视觉分类技术是人工智能领域最为基础和重要的研究课题之一，在众多人工智能相关的应用中均扮演着不可或缺的角色。深层卷积神经网络的兴起大幅提升了视觉分类方法的性能，将视觉分类问题推向了一个全新的阶段。然而由于自然界中物体的种类非常繁多且变化多样，因此研究复杂场景下精准、鲁棒和快速的视觉分类方法仍是一个亟待解决的问题。本项目围绕复杂视觉分类任务中基于高阶统计建模的深层卷积神经网络开展以下三个部分的研究。（1）探析高阶统计建模方法在深层卷积神经网络中的作用机理。（2）根据具体的问题和任务提出多种精准、鲁棒的基于高阶统计建模的深层卷积神经网络。（3）利用模型压缩技术设计基于高阶统计建模的轻量级深层卷积神经网络。..针对上述研究内容，本项目首次从优化角度理解和分析全局二阶池化在深层卷积神经网络中的作用机理和优势。根据不同的任务需求，提出基于全局广义高斯分布建模、全局混合高斯分布建模、全局时序高阶建模以及局部高阶注意力等多种基于高阶统计建模深层卷积神经网络。在轻量级模式设计方面，提出基于结构归一化的核函数网络以及高效通道注意力模型。提出的方法在大规模图像分类、目标检测、实例分割、视频识别等任务上得到了广泛的验证。相关工作发表CCF-A类会议和期刊10篇，发表CCF-B类期刊5篇，申请发明专利3项。培养博士研究生2名，硕士研究生6名。通过以上研究，项目提出的网络架构显著提高深层卷积神经网络在复杂视觉分类任务中的准确率和鲁棒性，在智能视频分析、商业图像检索、无人系统等多个领域有着良好的应用前景。同时，也为新型深层神经网络架构设计提供了新的思考方向，为我国人工智能的发展提供理论保障和技术支持。