多核帮助线程应用中高性能的预取质量确保机制研究

帮助线程技术是多核数据密集应用中访存性能优化的重要研究方向之一，预取控制策略是它的核心，预取过程中的负获益是这类应用的重要性能瓶颈。本研究拟在我们提出的支持跳跃式预取的数据块同步方法基础上，以高性能的预取质量确保机制为目标，利用流计算方法对获取的预取质量数据进行高效的筛选与关联、分类与转换等动态分析操作，开展预取正获益和负获益的状态判定、度量与改进、支持可变参数和阈值的全方位预取控制调优等预取质量确保机制研究，使预取过程中正获益最大化和负获益最小化，满足高性能访存的需求。我们拟从控制参数与阈值的快速优选、预取过程中缓存管理的分析入手，提出帮助线程应用中预取质量确保机制和关键算法，采用多核环境、多核模拟器、软件算法和测试程序等方式进行实验分析与评价，并结合建模分析，探讨其理论界限。

目前海量数据挖掘、内存数据库等领域的数据密集应用日益增多，此类应用的热函数中往往缺少计算量，并呈现非规则数据密集访存的特征。如果热函数缺乏片内计算任务，使用传统帮助线程技术就无法构建一个相对于主线程有效预取的帮助线程。为此我们曾提出一种交织预取帮助线程方法，以构建这类小计算量的非规则数据密集型应用的帮助线程。然而，帮助线程应用中，不仅需手工构造帮助线程的代码，而且还需对帮助线程控制参数值进行极为耗时的手工枚举优选。因此，本项目试图从帮助线程编译工具和控制参数值自适应调优的研究角度，来提出高性能的帮助线程预取质量确保机制。本项目的主要研究内容和取得的创新成果如下：(1) 基于配置文件的交织预取帮助线程预编译算法。它基于源到源的预编译方法，实现了我们交织预取帮助线程的自动化构造过程，即可根据性能分析软件的分析结果和热循环结构的剖析信息自动地实现帮助线程的分片、构造、生成以及与主线程之间的同步操作，从而生成一个交织预取帮助线程的模板。实验表明，在设置控制参数后，预编译的帮助线程可获得与人工方法相近似的性能提升。(2) 预取质量流获取和预取性能评测。在掌握预取质量流获取方法后，首先对帮助线程的预取QoS进行了定量分析，在此基础上引入动态反馈评价机制，用程序的阶段行为变化和动态预取获益变化等信息来判断参数值的适用度以及是否需要进行反馈优化，从而实现了对预取控制的自适应调节。其次，按照帮助线程预取请求对主线程访存延迟的隐藏度及对共享缓存的污染度，更深层次提出了基于重用距离的帮助线程预取请求细粒度分类方法，即迟到、及时、坏、丑陋、早到、冗余等，并提出预取贡献度、有害预取度、无效预取度等度量新定义，用以对帮助线程预取质量进行综合评价。(3) 高性能的预取质量调优算法。通过引入动态采样机制，实现对帮助线程预取质量的动态监视；引入基于预取率的参数值生成算法，实现帮助线程预取控制策略的生成；然后通过两阶段评价选择机制，实现了对预取策略的择优选择；最后将自适应预取策略用于控制帮助线程预取，在程序动态执行过程中实现对帮助线程预取质量的动态调节。实验表明，提出的帮助线程自适应预取框架不需手工枚举参数值便可快速获得与人工枚举方法相近似的性能提升。(4) 帮助线程预取优化的支持机制。实现了面向共享缓存划分的多核帮助线程预取及共享缓存替换算法优化。(5)关于介度中心等算法的应用研究成果。