摘要
本发明公开了基于注意力机制的自适应分组卷积神经网络结构设计方法,涉及人工智能运算领域,针对现有分组卷积技术中特征图通道在层间不能有效流通的问题提出本方案。在设计选择网络时,基于注意力机制设计用于自适应重排输出的特征图通道;所述选择网络包括通道选择矩阵,所述通道选择矩阵用于记录特征图在层间传递的流通信息。优点在于,通过基于注意力的选择网络,为每组从上一层传入的特征图自适应地生成相应的通道选择矩阵,使得这些特征图能够被动态分配到合适的下一层通道中,实现分组卷积中不同组间的信息交换。可以兼顾特征图的动态分配与内存开销的节约,实现轻量化结构的特征图通道动态分配,提高卷积神经网络性能。
- 单位