新一代视频编码标准中基于帧间相关性的率失真优化及码率控制问题研究

Based on the inter-dependent rate-distortion and rate control issues, we will propose the inter-dependent rate-distortion model considering with the new generation video coding standard, then study the inter-dependent Lagrange optimization which is used in the mode decision process for the global rate-distortion optimization to improve the coding efficiency. After that, we will set up the relationship between the rate smoothness and the quality smoothness under the inter-dependent situation, which will benefit the implementation of the new generation video coding standard.

针对基于帧间相关性的率失真优化和码率控制问题，本项目从分析帧间相关性的产生过程入手，结合新一代视频编码标准中使用的新技术的理论依据和实现方法，分别建立基于帧间相关性情况下的码率模型和失真模型，在建立起基于帧间相关性的率失真模型的基础上，进一步探索在编码单元分块模式决策过程中的拉格朗日乘数优化问题，从而将多帧之间的相关性引入到模式决策过程中，解决以往率失真优化仅仅考虑局部最优的问题，使编码性能得到进一步提升。在码率控制问题中，本项目引入更加接近实际应用的码率和质量约束，在考虑多帧之间码率的联合分配问题时，建立起码率平滑和质量平滑之间的关系，为新一代视频编码标准的推广应用提供理论基础和核心技术。

本项目根据项目任务书的规定针对视频编码中基于帧间相关性的率失真优化和码率控制问题，从基于帧间相关性的率失真模型、多帧之间的率失真联合优化方法、码率平滑和质量平滑约束下的码率控制算法三个方面开展了研究工作，在解决新一代视频编码标准中基于帧间相关性的率失真优化和码率控制这一关键科学问题方面取得了突破性进展，建立了基于帧间相关性的率失真模型和基于编码单元深度信息的失真模型，提出了面向视频质量优化的码率控制算法。项目执行两年以来，已经完成项目计划中的研究任务，取得了一系列的研究进展，具体包括：.1）基于帧间相关性的率失真模型方面，从参考帧和被参考帧之间的预测关系着手，建立帧间编码帧的编码复杂度与被参考帧的失真之间的关系，然后利用时域的编码复杂度和变换系数的概率密度函数的关系，使用积分公式推导出帧间相关性情况下的失真模型和码率模型，使模型的平均准确率达到90%以上；.2）多帧之间的率失真联合优化方法方面，在基于帧间相关性率失真模型的基础上，综合考虑编码单元深度信息和复杂度信息，对拉格朗日乘数公式进行了调整，从而对编码中的率失真决策过程进行更好的全局优化，使编码效率得到了进一步提升；.3）在码率控制算法方面，提出了基于滑动窗的恒定码率控制算法。根据视频编码应用中恒定码率和恒定视频质量的约束，分别使用两个滑动窗口来控制码率和视频质量，然后利用上述率失真模型来获得QP，从而在恒定码率约束下实现视频质量的优化和质量波动的降低。. 综上所述，项目实施以来，各项研究任务顺利开展，均已达到研究目标，相关成果已发表在期刊和国际会议上，并在AVS+广电编码芯片系统中进行了码率控制算法验证，为新一代视频编码标准的推广应用提供了理论基础和技术支撑。