首页 理论教育 有效数字位数主要由测量用具确定

有效数字位数主要由测量用具确定

时间:2022-02-12 理论教育 版权反馈
【摘要】:反映被测量实际大小的数字称为有效数字。在测量时, 对于连续读数的仪器, 有效数字读到仪器最小刻度的下一位的估计值, 不论估计值是否是 “0” 都应记录, 不能略去。有效数字运算规则对此做了严格规定。例如:397.8+7.625-312.4198=93.0。例如:78.625×9.06÷11.38=62.6。

1. 有效数字

反映被测量实际大小的数字称为有效数字。 一般从仪器上读出的数字均为有效数字, 它和小数点的位置无关, 有效数字的位数是由测量仪器的精度确定的, 它由准确数字和最后一位有误差的数字组成。

在测量时, 对于连续读数的仪器, 有效数字读到仪器最小刻度的下一位的估计值, 不论估计值是否是 “0” 都应记录, 不能略去。

在测量中, 凡是从仪器上读出的零都是有效数字, 由单位变换得出的零均不是有效数字。

单位变换时, 有效数字的位数保持不变。

2. 有效数字运算规则

在计算间接测量值时, 经常会遇到除法运算除不尽, 或者结果出现一串很长数字的现象, 结果保留几位有效数字最为合理呢? 有效数字运算规则对此做了严格规定。

加、 减法运算: 加、 减运算结果的有效数字的末位, 与参与运算的各数字中小数点后位数最少者相同。 例如:397.8+7.625-312.4198=93.0。

乘、 除运算: 乘、 除运算结果的有效数字的位数, 与参与运算的各数字中有效数字位数最少者相同。 例如:78.625×9.06÷11.38=62.6。

乘方、 开方后有效数字的位数保持不变。

对数运算: 对数运算后, 结果的真数部分不算有效数字, 结果的假数部分的位数与首数的位数相同。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈