基于深度学习的视频编码单元选择算法研究

作者：温洁; 杨帆^*; 潘旭冉; 王晓宇; 范海瑞

来源：河北工业大学学报, 2020, 49(06): 28-39.

DOI：10.14081/j.cnki.hgdxb.2020.06.005

• 视频图像编码
• VP9
• 编码单元划分
• 深度学习
• SAD值

新一代视频编码标准VP9与上一代标准VP8相比性能提升了近1倍,且它的开源特性使得其在视频编码领域取得了广泛应用,但是编码性能提高的同时带来了编码复杂度的增加,从而对一些实时的视频应用产生很大影响。因此本文通过对编码单元模式划分复杂度过高问题的影响因素进行分析,提出基于深度学习的视频编码单元选择算法,该算法首先选择对编码复杂度很高的块划分进行研究,主要针对超级块划分模式的选择进行了优化。应用深度学习中的全连接神经网络模型作为划分模型,输入特征向量为36个,输出是具体的块划分模式,训练方式选择离线训练。其次,为了进一步的简化模型结构同时提升分类器的性能,将对复杂度很高的四叉树递归划分方式进行优化,并根据具体的量化参数(QP)值和块大小得到不同的结构,以便得到1个4层二分类模型。最后,通过对不同复杂视频图像应用简化版的四叉树进行测试,测试结果与原四叉树递归算法相比编码复杂度降低很多,编码复杂度平均降低比例高达77.84%,编码效率得到了很大的提升。

• 单位
  河北工业大学; 电子信息工程学院