首页 百科知识 运算后的有效数字位数的确定规则

运算后的有效数字位数的确定规则

时间:2022-10-21 百科知识 版权反馈
【摘要】:几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算。求得的积或商的有效位数应根据舍入规则保留成与原有效数字位数少的数相同。

1.5.1 数据运算规则

1)加减法运算规则

几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算。计算结果的小数位数取至与原小数位数最少的数相同。

2)乘除运算规则

两个有效位数不同的数相乘或相除时,将有效数字位数较多的数的位数取为比另一个数多一位,然后进行计算。求得的积或商的有效位数应根据舍入规则保留成与原有效数字位数少的数相同。

为了保证必要的精度,参与乘除法运算的各数及最终运算结果也可以比有效数字位数最少者多一位。

3)乘/开方运算规则

进行乘/开方运算时,底数/被开方数有几位有效数字,运算结果多保留一位有效数字。

4)对数运算规则

数据进行对数运算时,几位数字的数值就应使用几位对数表,以免损失准确度。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈