应用行为感知的多核处理器存储资源管理关键技术研究

单核处理器中已有的"存储墙"问题在多核处理器中依然存在，甚至更加严重。存储系统仍将是影响计算机系统性能的瓶颈。除了"存储墙"问题外，多核处理器中，存储系统的设计还面临访存带宽有限、线程间访存冲突、应用行为多样等挑战，针对这些挑战研究多核处理器存储资源的管理技术对提升系统性能具有重要意义。本项目提出一种应用行为感知的多核处理器存储资源软硬件协同管理框架，依据应用的行为特征，由硬件和软件协同对多核处理器片上末级Cache(LLC)和到片外存储器的访存带宽进行高效、灵活的管理，重点突破应用行为的表征和在线提取、资源冲突预测模型构建、性能预测模型构建、访问冲突感知的LLC划分和预取请求感知的访存带宽划分等关键技术，使LLC和访存带宽得到有效的利用，以切实开发多核处理器的运算潜能。我们希望依托本项目取得的研究成果能够指导国产高性能微处理器的研发，并最终应用到国防科学技术大学自主研制的多核处理器中。

本项目针对多核处理器存储系统设计面临的访存带宽有限、线程间访存冲突、应用行为多样等挑战，提出了应用行为感知的多核处理器存储资源管理框架，依据应用的行为特征，对多核处理器片上末级Cache(LLC)和到片外存储器的访存带宽进行高效、灵活的管理，使LLC 和访存带宽得到有效的利用，以切实开发多核处理器的运算潜能。本项目按照计划完成了全部研究工作。.本项目在应用行为分析、LLC的管理和访存带宽的管理方面展开了深入研究，并取得了以下研究成果：应用行为分析方面，从分析方法和分析模型着手，分别提出了一种应用行为的在线识别方法OABI和一种应用程序Cache容量敏感性预测模型SASS，以指导存储资源的管理和优化。此外，还从速度和准确度方面对分析方法进行了优化；LLC的管理方面，以应用行为分析方法和模型为基础，提出了三种LLC管理机制：基于应用Cache 行为类型在线识别的CMP 大容量共享片上末级Cache替换策略BIIP、基于细粒度伪划分的多核私有Cache容量共享机制CSFP和基于数据项动态分配的Cache容量划分技术VH-PAD。这些机制可以使LLC得到有效利用，从而提高了多核处理器的整体性能；访存带宽的管理方面，在仔细研究多核处理器存储访问特点的基础上，提出了三种片外存储带宽优化方法：基于虚拟时间的两级访存调度器、可配置地址映射算法和活跃页面VopSMB（Virtual open-page stream buffer）结构。其中，VopSMB 的设计思想在国际上尚属首次。这些优化方法极大提高了存储系统的性能。.项目研究期间，发表学术论文22篇，其中SCI检索3篇，EI检索14篇；相关研究获军队科技进步一等奖1项；已公示国家发明专利6项，其中1项已授权；培养毕业博士研究生5人、硕士研究生4人。本项目提出的LLC管理机制和访存带宽优化方法能够有效改善多核处理器中存储资源的利用，从而提升了多核处理器的整体性能。本项目的部分研究成果已成功应用于国防科学技术大学计算机学院自主研制的高性能多核处理器中。