首页 百科知识 数字万用表有误差怎么调

数字万用表有误差怎么调

时间:2022-10-21 百科知识 版权反馈
【摘要】:由于存在误差,因此测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压24.8V就是一个近似数,24是可靠数字8为欠准数字,即24.8为三位有效数字。对于有效值的表示,应注意如下几点。如已知误差,则有效值的位数应与误差相一致。例如,仪表误差为±0.01V,测得电压为12.352V,其结果应写成12.35V。

1.5 实验数据的处理方法

1)有效数字

由于存在误差,因此测量的数据总是近似值,它通常由可靠数字和欠准数字两部分组成。例如,由电压表测得的电压24.8V就是一个近似数,24是可靠数字8为欠准数字,即24.8为三位有效数字。对于有效值的表示,应注意如下几点。

(1)有效数字是指从左边第一个非零数字开始,到右边最后一个数字为止的所有数字。例如,测得的频率为0.0157MHz,则它是由1、5、7三个有效数字组成的频率值,左边的两个零不是有效数字。它可以写成1.57×10-2 MHz,也可写成15.7kHz,但不能写成15 700Hz。

(2)如已知误差,则有效值的位数应与误差相一致。例如,仪表误差为±0.01V,测得电压为12.352V,其结果应写成12.35V。

(3)当给出误差有单位时,测量数据的写法应与其一致。

2)数字的舍入规则

为使正、负舍入误差的机会大致相等,现已广泛采用“小于5舍,大于5入,等于5时取偶数”的方法。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈