首页 理论教育 有效数字及其运算规则教学

有效数字及其运算规则教学

时间:2022-01-27 理论教育 版权反馈
【摘要】:一个数据,其中除了起定位作用的“0”外,其他数都是有效数字。如0.0037只有两位有效数字,而370.0则有四位有效数字。又如二等标准温度计最小刻度为0.1℃,我们可以读到0.01℃,如15.16℃。为了清楚地表示数值的精度,明确读出有效数字位数,常用指数的形式表示,即写成一个小数与相应10的整数幂的乘积。例如将24.65、0.0082、1.632三个数字相加时,应写为24.65+0.01+1.63=26.29。例如:0.0121×25.64×1.05782应写成0.0121×25.64×1.06=0.328。上例说明,虽然这三个数的乘积为0.3281823,但只应取其积为0.328。

科学与工程中,该用几位有效数字来表示测量或计算结果,总是以一定位数的数字来表示。不是说一个数值中小数点后面位数越多越准确。实验中从测量仪表上所读数值的位数是有限的,而取决于测量仪表的精度,其最后一位数字往往是仪表精度所决定的估计数字。即一般应读到测量仪表最小刻度的十分之一位。数值准确度大小由有效数字位数来决定。

1.有效数字

一个数据,其中除了起定位作用的“0”外,其他数都是有效数字。如0.0037只有两位有效数字,而370.0则有四位有效数字。一般要求测试数据有效数字为4位。要注意有效数字不一定都是可靠数字。如测流体阻力所用的U形管压差计,最小刻度是1mm,但我们可以读到0.1mm,如342.4mmHg。又如二等标准温度计最小刻度为0.1℃,我们可以读到0.01℃,如15.16℃。此时有效数字为4位,而可靠数字只有三位,最后一位是不可靠的,称为可疑数字。记录测量数值时只保留一位可疑数字。

为了清楚地表示数值的精度,明确读出有效数字位数,常用指数的形式表示,即写成一个小数与相应10的整数幂的乘积。这种以10的整数幂来记数的方法称为科学记数法。

如 75200     有效数字为4位时,记为7.520×105

          有效数字为3位时,记为7.52×105

          有效数字为2位时,记为7.5×105

  0.004 78   有效数字为4位时,记为4.780×10—3

          有效数字为3位时,记为4.78×10—3

          有效数字为2位时,记为4.7×10—3

2.有效数字运算规则

(1)记录测量数值时,只保留一位可疑数字。

(2)当有效数字位数确定后,其余数字一律舍弃。舍弃办法是四舍六入,即末位有效数字后边第一位小于5,则舍弃不计;大于5则在前一位数上增1;等于5时,前一位为奇数,则进1为偶数,前一位为偶数,则舍弃不计。这种舍入原则可简述为:“小则舍,大则入,正好等于奇变偶”。如:保留4位有效数字

3.71729→3.717

5.14285→5.143

7.62356→7.624

9.37656→9.376

(3)在加减计算中,各数所保留的位数,应与各数中小数点后位数最少的相同。例如将24.65、0.0082、1.632三个数字相加时,应写为24.65+0.01+1.63=26.29。

(4)在乘除运算中,各数所保留的位数,以各数中有效数字位数最少的那个数为准;其结果的有效数字位数亦应与原来各数中有效数字最少的那个数相同。例如:0.0121×25.64×1.05782应写成0.0121×25.64×1.06=0.328。上例说明,虽然这三个数的乘积为0.3281823,但只应取其积为0.328。

(5)在对数计算中,所取对数位数应与真数有效数字位数相同。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈