基于脉冲神经网络的处理器温度约束下的性能优化

At present, researches on processor performance optimization under temperature constraint are mainly based on linear thermodynamic model for temperature prediction, and achieve performance optimization by solving the equivalent optimization mathematical problem. The drawbacks of such kind of method are: nonlinear parts in the system are poorly fitted, model parameters are difficult to obtain, and low online operation efficiency. Spiking neural networks have many advantages such as: higher computing power, low parameter dependence, can capture nonlinear property in real systems, high online operation efficiency, and efficient power consumption. Aiming at maximizing the computing performance of processors under temperature constraint, this project creatively proposes a performance optimization method based on spiking neural network to tackle the existing problems in current researches. Selecting temperature closely related features in hardware and applications and combining the characteristics of processor temperature feature sampling, a phase-based spiking en/decoding scheme is proposed. Considering the role of synaptic delay in network learning, two training algorithms based on supervised learning and unsupervised learning are proposed for temperature prediction and performance optimization spiking neutral models while a reward function is designed based on temperature prediction and task execution simulation. This project provides an important perspective for constructing general and efficient processor performance optimization methods under temperature constraint. It is a key technology to further improve the computational efficiency of general-purpose processors and expand its application in various aspects, under the premise of ensuring temperature within a reasonable interval, thus having important scientific and practical significance.

目前处理器温度约束下性能优化相关研究主要基于线性热力学模型进行温度预测，进而求解等效最优化数学问题完成性能优化，存在对非线性部分拟合差、模型参数获取困难、线上效率不高等问题。脉冲神经网络具有计算能力强、参数依赖小、非线性属性捕捉好、线上计算需求不高、功耗低等特点。以温度约束下最大化处理器计算性能为目标，本课题创造性提出基于脉冲神经网络的性能优化方法，以解决研究中上述问题。选择硬件和应用中温度紧密相关特征，结合处理器温度特征采样特点，提出基于相位的脉冲编解码方案。考虑神经突触延迟在网络学习中作用，分别为温度预测和性能优化模型提出基于监督学习和无监督学习的训练算法，并结合温度预测与任务执行仿真设计了奖励函数。本课题为构建通用、高效的温度约束下处理器性能优化方法提供了重要思路，是在保证温度在合理区间前提下进一步提高通用处理器计算效能、扩大在各行各业的应用的关键技术，具有重要的科学和实际意义。

目前基于线性热力学模型进行温度预测和优化的计算机处理器温度管理方法存在对非线性部分拟合差、模型参数获取困难、线上效率不高等问题。脉冲神经网络具有计算能力强、参数依赖小、非线性属性捕捉好、线上计算需求不高、功耗低等特点。针对上述问题，本课题提出基于脉冲神经网络对温度约束下处理器计算性能进行优化，并开展三方面研究：1、多核处理器各核心温度演化相互影响及峰值温度优化；2、面向温度预测的软硬件特征选择；3、温度预测、性能优化神经网络设计及训练学习算法，主要取得以下成果：1、发现距离较远之核心间热力学互影响比邻近核心间互影响显著低。此外，提出核心峰值温度近似算法，即其他核心对其热力学影响最大值之和。综合两者，课题提出周期温度管理下多核处理器峰值温度计算与优化算法。上述结果对设计温度预测脉冲神经网络特别是输入层的设计具有指导作用。2、针对处理器温度预测原始软硬件特征采集，提出性能计数器特征超级集合构建算法，可包含尽可能多的相关特征。设计了基于特征间互信息的温度预测特征提取后向搜索算法。经特征提取发现，preset性能计数器比native性能计数器更能表征处理器温度。3、提出泊松编码、相位解码的脉冲编解码方案，并基于神经元间突触权重提出了脉冲神经网络有监督训练算法。针对温度约束下性能优化神经网络无监督学习的奖励函数设计，发现只采用违反约束后施加惩罚的方式可能导致训练收敛慢，因此新增加一温度区间控制奖励项，即如果处理器温度处于温度约束下一设定区间，则给予额外奖励。基于该奖励函数和深度确定性策略梯度算法的仿真实验验证了无监督学习可快速收敛。本课题为构建通用、高效的温度约束下处理器性能优化方法在特征提取、实验数据采集、脉冲神经网络编解码、无监督学习方面提供了重要思路，并开源了处理器仿真、温度管理验证、温度优化和特征采集工具箱，促进相关研究。研究结果在高性能计算中心等领域具有一定应用价值。