摘要

为了获取Excel中存在不可见的浮点数误差的直接证据,采用不同构造方式在Excel中生成了“相同”的小数数列,分别使用“=”和MATCH函数比较了各数列中的数据在修约前后的一致性。通过拆解Excel工作簿文件,获取其内部存储的高精度数据,证明了Excel中的存储精度高于显示精度,这一精度差异在某些情况下会导致不可见的浮点数误差。

  • 单位
    青海省药品检验检测院