一种轻量级微处理器AI推理框架

作者：何辞; 张亚生; 黄子勤; 陈晨

来源：2022-08-30, 中国, CN202211046072.0.

本发明公开一种轻量级微处理器AI推理框架,包括：首先在上位机将.h5模型量化为numpy数组并储存至数组头文件；创建算子头文件,将解析.h5模型中所使用的算子,将MicroInfer库中与.h5模型中所使用的算子适配的算子存入算子头文件；计算算子头文件所需内存空间的大小；之后,生成MicroInfer核心代码软件包对数组头文件、算子头文件进行解析与调用；最后获取用户BSP工程,根据内存空间大小分配用户BSP工程的内存大小；将MicroInfer软件包文件更新工程BSP并保存到下位机供用户在下位机进行实际开发时进行使用。本发明解决了现有技术中存在的AI模型难以部署的问题。

• 单位
  西安电子科技大学; 中国电子科技集团公司第五十四研究所