科研之友
微信
新浪微博
Facebook
分享链接
摘要
针对某型号程控电阻箱输出电阻示数存在一定误差问题，根据各挡位电阻绝对误差与测定值之间呈现的线性关系，将最小二乘法引入到电阻箱实际需求电阻示数校正计算过程中，重新设计算法，构建数学模型，借助MATLAB 2022b编程进行数值模拟与仿真。结果表明，经此算法校正后，各倍率档位实测值的相对误差明显下降，但下降幅度不大，相对精度提升约为1%,这些固定编号的实际需求电阻值在电阻箱输出过程中表现出更强的稳定性，鲁棒性显著降低，与校正前实际输出电阻值相比精度度更高(误差在0.001以内)。
-
单位鹤壁职业技术学院
