众核集群程序设计机制研究

众核（GPU）集群是在普通集群的各节点上增加众核加速设备构成的异构集群，也是当前大规模超算系统的典型架构。本课题研究基于新数组类型的程序设计机制。其主要思想是将多维数组扩展为多层次的树状结构。这一扩展间接反映了众核集群树状存储器结构和不同处理器在集群架构中的异构性。数据的划分、分布、转置与变形均可以在新数组类型这一层次得以简洁表示和处理，而同类的线程也组成数组：多核并行、众核并行以及集群并行得以统一。这一程序设计机制在支持用户对系统的全面控制和深度性能优化的同时可以简化并行程序的设计、维护和修改。本课题也将提供在天河这样的大型GPU系统上稳定计算的技术与编程接口。

本课题研究众核集群程序设计机制，实现了Parray编程接口。该编程接口扩展了程序语言中的常用的数组类型，增加了数据在体系架构中的分布排列信息，使得像天河这样的复杂结构超级计算机在运行中可以利用这些信息高效执行。Parray的理论基础是抽象（程序）代数，具有完全的表示能力，其程序往往十分简洁。本项目完成了Parray的语言机制的设计，开发了源到源的Parray编译器：根据C程序中的额外Parray语句自动生成并行C程序。Parray编程框架在多个系统上（包括天河1A系统和国产众核系统）进行了移植和测试。一般来说，一个Parray程序只要少量修改就可以在不同架构的并行系统上运行。Parray编程方法的相关研究成果发表在并行计算领域顶级会议PPoPP 2012。..本项目与北京大学工学院陈十一教授的团队合作，成功地将原来在CPU集群上开发的直接法湍流代码移植为16节点GPU集群上高速FFT新算法的Parray程序，并进一步移植到天河1A集群并扩展到全机7168节点。最近项目组进一步将该程序成功移植到完全不同架构特点的国产众核超级计算系统上并进行了8192三维大规模的模拟计算，并测试并良好扩展到16384三维规模。这是目前世界上最大规模的湍流模拟。