异构内存系统的动态重构机制研究

Emerging Non-Volatile Memory (NVM, also called Storage Class Memory) has blued the boundary between the traditional main memory and external storage, leading to new innovations in computer memory management system. To fully exploit the advantages of SCM and traditional DRAM, a heterogeneous memory system design has became a general consensus in the community of computer architecture and operating system software. However, the existing heterogeneous memory systems usually adopt a static architecture and a single model to organize the hybrid memory, and are hard to adapt to different scenarios in big data era. This proposal will investigate reconfigurable and reconstructive heterogeneous memory system using a software-hardware co-design methodology. We mainly study the following dynamic reconstruction methodologies: (1) We will study dynamic reconstruction mechanism of DRAM/NVM memory system between hierarchical and flat architectures. (2) We will study NVM-aware pagetable and TLB reconstruction mechanisms, which can achieve page promotion and demotion in multiple page sizes according to different applications' memory access pattern. In addition, we will also study adaptive page allocation strategies to leverage the advantage of superpages and normal pages. (3) We will design memory address protection and dynamic address mapping mechanisms to enable dynamic functional conversation of NVM between working memory and persistent storage. (4)We will also construct memory access performance models of typical big data applications in heterogeneous memory system. Those models are able to guide the dynamic reconstructions of heterogeneous memory system in different scenarios.

新型非易失性存储器（也称存储级内存）的出现打破了传统内存和外存的界限，使计算机的内存储系统面临着变革。为了充分发挥存储级内存和传统DRAM各自的优势，将两者结合形成异构内存系统已成为业界的共识。然而，当前的异构内存系统往往采用单一的内存组织和管理架构，无法动态适应大数据时代不同的应用场景。本项目拟研究动态可重构的异构内存系统，通过软硬件协同设计，实现不同层面的动态重构机制。主要研究工作包括：（1）研究异构内存系统在层次化架构和平行架构之间的动态重构机制；（2）研究非易失内存感知的页表和TLB的动态重构机制，根据应用访存特性实现可变粒度的页面转换，以及自适应的页面分配算法，充分发挥大页和普通页面的优势；（3）研究地址空间的保护和动态映射机制，实现非易失内存作为程序运行内存和持久化存储之间的动态转化；（4）研究典型应用在异构内存系统中的访存性能模型，用于指导异构内存系统在不同场景下的动态重构。

当前的异构内存系统往往采用单一的内存组织和管理架构，无法动态适应大数据时代不同的应用场景。本项目针对大数据应用访存行为的多样性及对存储资源需求的动态性，结合异构内存系统不同存储介质的特性，研究动态可重构的异构内存系统。主要研究工作如下：1）在异构内存系统中的访存性能建模方面，设计了异构内存计算平台的仿真器HME，用于支持新型非易失性内存的模拟及应用程序在异构内存系统中访存行为分析；设计了一种细粒度的应用访存特征离线分析方法，并基于此提出了一种基于对象的内存分配和迁移机制OAM；设计并实现了一个访存特征分析与可视化工具HMProfiler。2）在异构内存系统架构动态重构方面，设计了软硬件协同管理的DRAM-NVM层次架构，实现了异构内存系统在层次化架构和平行架构之间的动态重构机制，提出了一种CPU缓存动态分区和缺失代价感知的替换策略，以支持缓存系统的动态重构。3）在异构内存系统中页表和TLB的动态重构机制方面，设计并实现了支持大页动态重构和轻量级页迁移的异构内存系统Rainbow，并实现了支持大页和大容量DRAM缓存的层次化异构内存系统SSLDC。4）在运行内存和持久化存储的动态转换机制方面，设计并实现了基于bank并行的系统级检查点系统、面向虚拟化环境的异构内存管理机制、以及基于异构内存的内存键值对象缓存系统进行验证。..项目在IEEE TC/TPDS/TCAD/TCC/TBD, ACM TACO, ICS/MSST/ICCD/DATE/IWQoS等高档次学术会议和期刊共发表和录用了21篇学术论文，其中20篇被SCI/EI引用， CCF推荐的A/B类学术刊物13篇，IEEE Transactions 7篇。获得美国专利2项，申请及获批中国专利5项，获得教育部自然科学一等奖，完成了项目预期目标。此外，对相关系统代码进行开源并得到了广泛关注，部分成果已被华为等企业应用。