首页 理论教育 对数值的有效数字位数

对数值的有效数字位数

时间:2022-02-14 理论教育 版权反馈
【摘要】:在近似数运算中,为了保证最后结果有尽可能高的精度,所有参与运算的数据,在有效数字后可多保留一位数字作为参考数字,或称为安全数字。上述的运算规则,都是一些常见的最简单情况,但实际问题的数据运算更复杂,往往一个问题要包括几种不同的简单运算,对中间的运算结果所保留的数据位数可比简单运算结果多取一位数字。

在近似数运算中,为了保证最后结果有尽可能高的精度,所有参与运算的数据,在有效数字后可多保留一位数字作为参考数字,或称为安全数字。

①近似数加减运算时,各运算数据以小数位数最少的数据位数为准,其余各数据可多取一位小数,但最后结果应与小数位数最少的数据小数位相同。

如:12.8+36.573+45.206+0.089=?应以12.8为基准,将其改写为

12.8+36.57+45.21+0.09≈94.7

②在近似数乘除运算时,各运算数据以有效位数最少的数据位数为基准,其余各数据要比有效位数最少的数据位数多取一位数字,而最后结果应比基准的多取一位有效数字。

如:28.34×1.2×2378×0.002654=?

先将其中能用科学记数法记录的数字改写为科学记数法表示,即改写为

28.3×1.2×2.38×103×2.65×10-3≈214

③在近似数进行乘幂运算时,平方相当于乘法运算,开方是平方的逆运算,故可按乘除运算处理。

如:28.50.5≈5.339

④在对数运算时,n位有效数字的对数应该用n位对数表示,即真数和对数具有的有效位数相等,或用(n+1)位对数表示,以免损失精度。

如:lg2384≈3.3773

⑤在三角函数运算中,所取函数值的位数应随角度误差的减小而增多,表1.1给出了其对应关系。

表1.1 角度误差与三角函数值位数

上述的运算规则,都是一些常见的最简单情况,但实际问题的数据运算更复杂,往往一个问题要包括几种不同的简单运算,对中间的运算结果所保留的数据位数可比简单运算结果多取一位数字。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈