适配异构内存架构的自适应任务调度的研究

With the rapid development of big data, more and more applications need to access large scale data set at runtime, which requires memory having high bandwidth and low latency in consequence. Meanwhile, since more and more cores are integrated in a single computer, these cores would access the memory concurrently, and worse the "memory wall" problem. To deal with this problem, emerging memory architecture uses 3D-stacked memory that has high bandwidth and low capacity to increase the data access bandwidth, and uses traditional memory that has low bandwidth but has high capacity to store large volume of data. However, existing runtime systems and programming models do not consider heterogeneous memory architecture. Especially, how to perform scalable task scheduling at runtime is one of the most important challenges for effectively and efficiently utilizing heterogeneous memory architecture. Generally, this project focuses on three key problems: manageable, high performance, and low power. Mainly, we plan to explore the methodology to explore the data access pattern online, design and implement programming model adapted to heterogeneous memory architecture, and investigate scalable runtime task scheduling policies considering both performance and energy consumption. This project will provide an efficient solution for scalable high performance low power runtime task scheduling technique on heterogeneous memory architecture.

随着大数据研究的蓬勃发展，越来越多的应用在运行时依赖于超大规模的数据集，加剧了对高带宽低延迟内存的需求。而多核技术乃至众核技术的普及导致大量的核并发的访问数据，从而进一步加剧了“存储墙”问题。为了解决该问题，异构内存架构综合使用高带宽低容量的三维堆叠内存提高数据访问带宽，以及低带宽高容量的传统内存存储大量数据。然而，当前的计算机运行时系统及编程模型缺乏对异构内存架构的感知支持。特别地，如何进行自适应运行时任务调度是高效利用丰富的异构内存资源的一个巨大挑战。为此，本项目将围绕易管理、高性能、低功耗三个关键问题，开展以下研究：研究运行时应用数据访问特征分析机制；设计并实现适配异构内存架构的编程模型；研究考虑性能和能耗因素的可扩展任务调度策略。项目成果有望对适配异构内存架构的可扩展的高性能低功耗任务调度技术提供一个高效的解决方案。

该项目抓住当前异构内存架构的运行时支持显著不足的主要矛盾，从适配复杂异构内存架构的高性能任务调度方面开展研究。具体的研究内容包括：研究运行时应用数据访问特征分析机制；设计并实现适配异构内存架构的编程模型；研究考虑性能和能耗因素的可扩展任务调度策略。最终对适配异构内存架构的可扩展的高性能低功耗任务调度技术提供一个高效的解决方案。项目在上述研究内容方面取得了一系列创新性成果。针对预期的高性能及低功耗目标，项目实现了内存带宽敏感的任务调度策略，设计实现了低功耗任务调度策略，在保证服务质量的前提下，降低能耗。同时设计实现了一系列细粒度资源管理和任务调度策略，可保证高优先级应用的服务质量的的前提下，显著提高资源利用率，进而提高能效。上述研究成果对未来内存特征敏感的任务调度研究具有很强的指导意义。总地来说，本项目成功完成预订指标，目前出版英文著作1部，发表高水平学术论文16篇，其中第一/通讯作者论文10篇，申请国家发明专利8项，其中授权2项。研究成果获得中国计算机学会推荐A、B、C类会议最佳/焦点论文奖各1次。项目负责人在项目执行期间获得2017年教育部自然科学一等奖（排名第3），2017 IEEE TCSC Awards for Excellence，2018年上海市技术发明一等奖（排名第6），2019年国家技术发明二等奖（排名第5），以及2019年阿里巴巴达摩院青橙奖。