基于深度卷积神经网络的帧内模式决策

作者：赵海武; 余玲芝^*; 陈佳玲; 顾晓

来源：电子测量技术, 2019, 42(12): 90-94.

DOI：10.19651/j.cnki.emt.1802465

• AVS2
• 帧内编码
• 快速算法
• 卷积神经网络

AVS2编码在节省码率的同时,自身的编码复杂度很高。因为AVS2采用了率失真优化(RDO)技术,所以编码树单元(CTU)划分的复杂度占据了AVS2编码复杂度的很大一部分。因此,提议用卷积神经网络(CNN)模型来替代原AVS2编码标准的参考软件RD19.1中编码树划分的过程。首先,将问题归类为分类问题,然后设计了适用于编码块划分的卷积神经网络结构,包括3个卷积层、1个最大池化层和2个全连接层。最后,将训练得到的模型分别应用于64×64和32×32大小的编码块上。实验结果显示,所建议方案比原RD19.1平均节省时间为31.36%,比特率平均增加了2.25%。

• 单位
  上海大学; 通信与信息工程学院