科研之友
微信
新浪微博
Facebook
分享链接
摘要
鉴于低精度浮点运算拥有更快的运算速度，越来越多的高性能应用采用混合精度方案进行加速，而同样采用该方案来加速的AI（人工智能）大模型也受到广泛关注。最近，HPL-AI(High Performance LINPACK for Accelerator Introspection)基准测试被提出，用于评估高性能系统的混合精度运算性能。针对该基准测试，本研究在鲲鹏和昇腾异构平台上设计并优化了单节点HPL-AI基准测试的实现。其主要通过循环任务分配的策略将任务均匀地分配给AI处理器以平衡AI处理器的负载；通过带间隔值的任务分配策略提高数据传输的连续性来减少CPU和AI处理器之间的数据传输时间；在不影响计算精度的情况下，通过取消数据缩放的策略来减少CPU侧的计算量。最终实验结果表明：当间隔值为8时，HPL-AI基准测试的混合精度浮点运算速度最快；同时，取消数据缩放不会对HPL-AI基准测试的结果精度产生影响；在鲲鹏和昇腾异构平台上，与非优化的HPL-AI基准测试方法相比，本研究提出的优化策略使混合精度浮点运算速度提升了29%左右，为单节点HPL-AI基准测试的进一步优化和部署多节点HPL-AI基准测试奠定了坚实的基础。
- 单位
