“非对称多通道”异质、异构内存系统架构及“启发式”混合内存资源管理机制的研究

In the age of Big Data, STT-MRAM is considered as one of the promising material in structuring high performance main memory system. In order to make better use of STT for high performance computing, this work proposes Asymmetry Multi-Channel Architecture, which combines STT and DRAM in a “horizontal” way to construct a Heterogeneous Memory Systems. By further leveraging heuristic approaches, this work plans to devise a new memory management mechanism to meet the challenges in emerging platform with heterogeneous memory system. This work hopes to study the core of resource management in heterogeneous architecture, and aims to address the problems in following aspects:.(1) The architecture that combines heterogeneous memory materials, including the resource management, bandwidth, memory controller and the corresponding protocols. .(2) The principles in designing OS for supporting heterogeneous memory systems, including data mapping, address mapping space, memory allocation and data migration. .(3) Heterogeneity and application aware heuristic memory management mechanism, including memory policy decision, adaptive optimization, and online memory behavior learning mechanism.

“大数据”时代对内存储系统的材质和架构提出了新的要求。STT-MRAM被业界所普遍看好。为了设计包含STT的高性能内存体系，本研究提出采用“非对称多通道”架构“水平”整合STT和DRAM，并拟研究支持该混合存储架构的操作系统“启发式”内存资源管理机制。本研究拟从存储架构、操作系统两个层次形成系统的解决方案，为未来研究异质、异构混合内存资源的有效管理提供一些探索和参考。研究内容包括：.（1）研究整合异质、异构内存资源的内存体系结构，包括资源组织、数据通路、带宽、地址映射等核心机制；.（2）研究支持混合存储的操作系统核心机制，包括地址空间、数据组织、数据映射、资源分配、回收、数据迁移等机制；.（3）针对混合存储的特殊内存架构，研究存储介质特征与访问特点敏感的“启发式”资源管理机制与分配策略决策机制，包括在线的内核级访存行为抽象的采样与学习机制、资源分配的决策机制等。

本项目是研究新型内存体系的资源管理机制，总共研发历时三年。新兴的混合DRAM-NVM架构正在挑战架构和操作系统层面的现有内存管理机制。在这个项目中，我们设计了Memos内存管理框架，可以在整个内存层次上分层调度内存资源，包括DRAM和NVM，通道和Cache等资源。在本项目中，我们首先新设计了内核级监控模块，该模块通过将TLB监控与页面遍历相结合，可以高效的检查出访存特点。之后，本项目设计了新的页面迁移引擎，可根据访存行为的特点调度内存资源，该引擎引入的迁移开销很低。综合本研究最新的系列成果，Memos可以动态优化内存层次结构中的数据放置，以响应内存访问模式，再最小化资源竞争的同时，大幅度提高系统性能，降低能耗等开销。我们的实验结果表明，Memos可以实现高内存利用率，提高系统吞吐量约20.0％;减少内存能耗高达82.5％;并将NVM寿命提高了34倍。