异构多芯粒神经网络加速器

作者:朱郭益; 马胜*; 张春元; 王波
来源:计算机辅助设计与图形学学报, 2023, 35(05): 811-818.

摘要

随着神经网络技术的快速发展,出于安全性等方面考虑,大量边缘计算设备被应用于智能计算领域.首先,设计了可应用于边缘计算的异构多芯粒神经网络加速器其基本结构及部件组成.其次,通过预计算异构芯粒上的计算负载,将计算任务在神经网络通道上进行划分,不断加入新的任务,逐芯粒测试并进行迭代,选取异构芯粒组合以构建神经网络加速器.最后,分别在抽样构造的测试神经网络、MobileNet以及ShuffleNet上使用这种粗粒度优化的方法构建了异构多芯粒神经网络加速器,并测试了其能耗与性能表现.实验结果表明,这种异构的设计方法可以在控制能耗同时,分别取得7.43, 2.30和5.60的加速比.