异构内存计算系统的扩展性问题研究

Heterogeneous architecture and in-memory computing are two rapidly developing areas in computer science, and heterogeneous in-memory systems have been receiving a lot of attentions from both the academia and industry, applications such as in-memory database systems and in-memory graph processing frameworks are increasingly being deployed in a wide range of scenarios. Currently, there are several key common problems to be addressed in heterogeneous in-memory systems. First, the separation of address spaces across computing devices increases the complexity in data management and difficulty in programming. Second, the asymmetric NUMA architecture formed by traditional NUMA and heterogeneous devices makes it essential and more challenging to optimize memory accesses. Third, the lack of concurrency control protocol for heterogeneous parallel computing task makes it difficult to develop high-performance and high-concurrency heterogeneous applications. Thus, the goals of this proposal are: realizing the unified management of memory across computing devices, optimizing the memory data organization in complex NUMA environments, and designing concurrency control protocols for heterogeneous systems, to address the scalability problems in heterogeneous in-memory systems from three perspectives such as scalable memory address space, scalable performance in NUMA, and scalable parallel computation. Focusing on leading-edge research areas and key scientific problems in heterogeneous in-memory systems, this project would promote the research of theoretical problems and the development of techniques in related applications.

异构体系结构和内存计算是当前计算机科学研究快速发展的两个方向，异构内存计算系统的研究也日益受到学术界和工业界的重视，内存数据库系统、内存图计算等内存计算应用被广泛部署。目前，异构内存计算系统的研究还存在几个主要问题。第一，分离的异构设备间地址空间，增加了异构系统的数据管理的复杂性和编程难度；第二，传统NUMA结构和异构设备组成非对称的异构NUMA，使得优化内存访问尤为重要并且更具挑战性；第三，缺乏异构并行任务的并发控制协议，使得开发高并发高性能异构计算应用非常困难。因此，本项目研究目标是：实现异构内存空间的统一管理，优化复杂NUMA架构的内存数据组织，设计异构系统并发控制协议；从内存地址空间可扩展、复杂NUMA架构下系统性能可扩展、并行计算可扩展三个方面研究异构内存计算系统的扩展性问题。聚焦于前沿研究方向和异构内存计算中的关键科学问题，将有助于推动相关理论问题的研究和应用技术的开发。

本课题研究异构内存系统的可扩展性问题，主要从以下三个方面开展研究工作。第一，研究多核处理器架构下应用并发性能和同步问题。我们深入研究了多核处理器（包括NUMA对称多处理器、分布式共享内存多处理器架构和众核异构处理器架构）下的并发哈希表性能影响因素，设计了基于硬件事物内存的高性能哈希表；对至强融核协处理器（Intel Xeon Phi）上同步问题进行了广泛的评估和分析，针对至强融核上的缓存一致性协议，原子操作和同步锁机制设计了一系列的微基准测试程序。第二，研究基于GPU的异构系统设计及优化和GPU异构内存系统的可靠性。具体来讲，提出了一种基于多GPU架构的并行A*搜索算法，该算法可以有效利用内存带宽和多个GPU的计算能力进行加速；设计了一个基于GPU-FPGA的异构加速器系统Hype-training，综合利用离线表征、性能建模和运行时调度等技术，在GPU-FPGA混合加速器系统上实现了高效节能的DNN训练；设计了一个高性能的GPU内存溢出检测系统，该系统可在运行时检测GPU应用程序的内存溢出。第三，研究基于持久内存的异构内存系统的应用性能优化和一致性问题。具体来讲，基于Intel Optane DC Persistent Memory对专为持久内存设计的哈希索引进行了综合评估，总结了持久内存哈希索引的关键设计意见；设计了一个高性能的基于持久内存的混合型可快恢复的哈希索引，解决了读/写放大、分配器同步原语和持久化开销大以及混合型索引结构恢复慢等问题；设计了一个高精度高性能的面向持久内存故障一致性问题的检测系统，用于检测由代码错误而引起的持久内存系统编程中的故障一致性缺陷。..本课题共发表论文11篇，其中CCF推荐A类国际会议论文3篇，CCF推荐B/C类和其他国际期刊或会议论文8篇，申请国家发明专利6项，培养博士生研究生4名，硕士研究生6名。所发表论文中1篇获得CCF推荐的A类顶级国际会议ASPLOS 2021的Distinguished Artifact Award。另外，本课题开发的6个原型系统均已经开放源代码。