基于CNN的λ域帧内码控最佳码率分配算法

作者：林湧; 杨郑龙^*; 罗亦茜; 刘欣昱

来源：计算机时代, 2023, (09): 87-95.

DOI：10.16644/j.cnki.cn33-1094/tp.2023.09.018

• H.265/HEVC
• 帧内编码
• 卷积神经网络
• λ域码率控制
• 率失真特性

在λ域帧内码控中，提出一种基于卷积神经网络（Convolutional Neural Network,CNN）的帧内码控最佳码率分配算法。首先利用双曲线函数拟合编码树单元（Coding Tree Unit,CTU）的率失真（Rate Distortion, RD）特性。设计双分支卷积神经网络（Dual-Branch Convolutional Neural Network,DBCNN）预测率失真关键参数。然后根据帧级率失真优化（Rate Distortion Optimization,RDO），建立帧级目标码率与CTU码率分配等式关系，推导帧级拉格朗日参数λ。最后反演出最佳CTU码率分配。实验表明，该算法能够显著提高帧内码控编码性能，并具有较高码控精度。

• 单位
  上海工程技术大学