数据中心资源利用率敏感的编译方法

Data centers, especially online-service data centers, are becoming increasingly popular and important, but they suffer from poor resource utilization. This project aims at developing new compiling techniques to address this challenge, improving utilization for online-service data centers while ensuring quality of service (QoS) guarantees. The key and the goal of this research is Performance Isolation: without effective mechanism to manage performance interferences among co-running applications, online services usually use much more unnecessary resources to ensure QoS, leading to poor resource utilization. In this research, we will develop a novel compiling method which can generate self-adaptive programs by modeling relationship between QoS guarantees and resource requirements.

数据中心已成为一种重要的计算系统，但数量占大多数的在线业务型数据中心，却面临整体资源利用率低下的严峻挑战。本课题针对数据中心场景，研究新的编译方法，主动避免在线业务型数据中心的资源闲置，在保证服务质量(QoS)的前提下提高整体资源利用率。避免资源闲置的关键是保证共同执行的应用间性能完全隔离，使其不再需要通过多占或独占资源来保障QoS。本课题将研究“感知”共同运行的应用、避免性能干扰的编译方法，并建立应用Qos与资源占用间的关系模型，生成可根据资源和Qos需求而灵活可变的代码(“网程”)。

数据中心已成为一种重要的计算系统，但数量占大多数的在线业务型数据中心，却面临整体资源利用率低下的严峻挑战。本课题针对数据中心场景，研究新的编译方法，主动避免在线业务型数据中心的资源闲置，在保证服务质量(QoS)的前提下提高整体资源利用率。避免资源闲置的关键是保证共同执行的应用间性能完全隔离，使其不再需要通过多占或独占资源来保障QoS。本课题围绕这一问题，提出一种对性能、资源、代码三者关系的模型构建方法，通过在编程平面引入资源这一维度，使得程序的性能模型不再是简单的应用特征和性能之间的关系，而是和程序的资源密切相关，从而需要考虑应用特征-性能-资源这一三维模型；提出利用编译控制对资源的弹性占用技术，以矩阵类应用为例，以循环分块为切入点，探索弹性代码的生成技术；提出资源敏感的弹性代码重构技术，以矩阵类应用为例，以循环分块为切入点，研究生成的弹性代码如何根据运行时环境动态调整自身的行为；并进一步提出编译与运行时系统结合的资源管理和任务调度技术，研究服务类应用与深度学习类应用作为数据中心混合负载时，资源的按需分配和相关的任务调度技术。通过对这些内容的研究，能够在控制QoS在预定范围内的前提下，在约束的场景下将资源利用率从现有的约30%提升到80%；另一方面，我们可以通过资源敏感的代码生成能够将矩阵类应用所遭受的干扰降低最多43.3%，将矩阵类应用对服务程序的干扰降低最多51.7%，将混合负载下矩阵类应用的绝对性能提升9%（相比于ATLAS）。本项目在JCST等会议与期刊上发表论文4篇，培养硕士生3人，达到预期的项目目标。