不同定点格式的超越函数的研究对于协处理器的实现与优化具有重要意义。为了研究其影响,以七种格式定点数为操作数实现自然对数(Ln)函数和高斯函数并且计算出相应的误差率,通过比较其误差率来总结不同格式的定点数对超越函数的影响。结果表明Ln函数的误差比高斯函数的小,Ln函数受定点格式的影响比高斯函数的大,定点格式会对超越函数协处理器产生一定的影响。
科研之友
微信
新浪微博
Facebook
分享链接
