首页 理论教育 测量计算中的有效数字介绍

测量计算中的有效数字介绍

时间:2022-10-10 理论教育 版权反馈
【摘要】:1.有效数字的概念测量结果都是包含误差的近似数据,在其记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位。一般而言,对一个数据取其可靠位数的全部数字加上第一位可疑数字,就称为这个数据的有效数字。为避免取舍误差的迅速积累而影响测量成果的精度,在计算中通常采用如下凑整规则:①若拟舍去的第一位数字是0至4中的数,则被保留的末位数不变。

1.有效数字的概念

测量结果都是包含误差的近似数据,在其记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位。如果参加计算的数据的位数取少了,就会损害外业成果的精度并影响计算结果的应有精度;如果位数取多了,易使人误认为测量精度很高,且增加了不必要的计算工作量。

一般而言,对一个数据取其可靠位数的全部数字加上第一位可疑数字,就称为这个数据的有效数字。

一个近似数据的有效位数是该数中有效数字的个数,指从该数左方第一个非零数字算起,到最末一个数字(包括零)的个数,它不取决于小数点的位置。

2.数字凑整规则

由于数字的取舍而引起的误差称为“凑整误差”或“取舍误差”。为避免取舍误差的迅速积累而影响测量成果的精度,在计算中通常采用如下凑整规则:

①若拟舍去的第一位数字是0至4中的数,则被保留的末位数不变。

②若拟舍去的第一位数字是6至9中的数,则被保留的末位数加1。

③若拟舍去的第一位数字是5,其右边的数字皆为0,则被保留的末位数是奇数时就加1,是偶数时就不变。

3.数字运算规则

在数字的运算中,往往需要运算一些带有凑整误差的不同小数位的数值,这时应按下列规则进行合理取位。

①加减运算:在加减时,各数的取位是以小数位数最少的数为标准,其余各数均凑整成比该数多一位小数。

②乘除运算:乘除时,各数的取位是以“数字”个数最少的为准,其余各数及乘积(商)均凑整成比该数多一个“数字”的数,该“数字”与小数点位置无关。

③三角函数:三角函数值的取位与角度误差的对应关系如下:

alt

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈