高分辨率地球系统模式的高效并行输入/输出方法研究

Earth system model is an important scientific tool to study the global change. High resolution earth system model has become a general trend. The massive output data of high resoluation earth model is a serious challenge to the underlying I/O system. This project will focus on the real requirements of parallel I/O in high resolution earth system model. The data about I/O characteristics will be collected and the load performance model will be constructed at the first step. Based on the performance model, a novel asynchronous I/O architecture and an adaptive algorithm for the I/O controlling parameters will be designed. The main feature of this project is the capability of automatic overlapping I/O with computation. This capability can improve the performance of earth system model obviously. Finally this project will produce an application-level parallel I/O package with our own intellectual property rights, and this package will be deployed in the global atmospheric circulation GAMIL and the ocean circulation model POP with ten thousands cores scale. In long term, this project will achieve positive impacts on the development of earth system model, high-performance computer and high-performance computing technologies in our country.

地球系统模式是研究全球变化问题的重要科学工具，地球系统模式向高分辨率发展已经成为必然的趋势，而海量的模式结果输出对底层存储系统的性能提出严峻挑战。本项目将针对高分辨率地球系统模式对并行的实际需求，通过研究模式输入/输出特征，建立负载模型，以此为基础，研究异步输入/输出架构、数据缓存区管理方法和输入/输出控制参数的自适应调优方法，实现数值模拟计算过程与输入/输出过程的高效重叠，大幅度提升模式性能，最终形成一套具有我国自主知识产权的面向高分辨率地球系统模式的并行输入/输出库,并在万核规模的全球大气环流模式GAMIL和海洋模式POP中进行实际应用。希望在推动我国地球系统模式的发展的同时，促进我国高性能计算机研制和高性能计算技术的发展。

高分辨率成为了地球系统模式发展的主流趋势，多模式耦合并行的输出数据规模伴随着分辨率的提高呈现出几何级的增长速度，这使得I/O已经成为了制约模式发展的重要瓶颈。本课题针对地球系统模式的I/O特征，设计并实现了一个高速并行异步I/O库CFIO。与传统的I/O技术相比，本子系统的突破性创新在于通过I/O转发实现异步I/O操作，支持模式计算与I/O的自动重叠，大幅度提高模式计算效率。其主要原理是通过设计简洁的新型I/O架构，重新定义MPI进程的角色，将模式的运行进程被划分成计算进程、消息进程和I/O进程，划分出来的I/O进程组负责数据的读写，计算进程会将其发起的I/O请求发送给消息进程,消息进程将接受到的I/O请求消息暂存到消息队列中，再将消息发送给I/O进程来完成实际的I/O请求。这种I/O转发方法的优点在于：（1）计算进程不需要等待I/O请求的实际完成就可以继续接下来的计算过程，实现了I/O时间和计算时间的自动化重叠；（2）计算过程和I/O过程运行在不同的进程上，可以避免彼此间的资源竞争，减少 I/O 过程对于计算过程性能的影响；（3）由于有消息进程的存在，计算进程发起的突发性的大量I/O请求可以缓存在消息进程的消息队列中，并合理均分到I/O进程中，缓解了文件系统的网络拥塞问题。CFIO软件在中国气象局高分辨率的数值预报天气模式GRAPES和国家海洋局第一海洋研究所得MASNUM海浪模式得到了实际应用，对于实际模式数据输入和输出部分分别取得了6~10倍的加速效果。