首页 理论教育 有效数字及其运算

有效数字及其运算

时间:2022-02-13 理论教育 版权反馈
【摘要】:又如10.245,1.0245,0.10245都是5位有效数据,其中最后一位是可疑数据。例:测量某物体长度的两个数据1.3500cm和1.35cm有效数字不同,前一个数据的有效数字位数是5位,而后一个的有效数字位数是3个。例如=93.5°,粗略判断其误差不小于0.1°。测量结果的表示,一般应采用科学表示法,即用有效数字乘以10的幂指数的形式来表示。在间接测量中必然要遇到有效数字的运算。

第三节 有效数字及其运算

一、有效数字的概念

1.有效数字定义及其意义

测量结果的第一位非零数字起到最末一位可疑数字(误差所在位)止的全部数字,统称为测量结果的有效数字。例如,如图1-3-1用米尺(最小刻度是1mm)测量钢棒的长度,我们可以读出4.26cm,4.27cm,或4.28cm,前二位数“4.2”可以从米尺上直接读出来,是确切数字,而第三位数是测量者靠眼睛分辨估读出来的,可能因人各异,是有疑问的,称为可疑数字,所以该测量结果共有三位有效数字。又如10.245,1.0245,0.10245都是5位有效数据,其中最后一位是可疑数据。

img50

图1-3-1 钢棒测量

有效数字的意义在于有效数字位数能反映所使用仪器和测量的精度,表示了测量所能达到的准确程度。例:测量某物体长度的两个数据1.3500cm和1.35cm有效数字不同,前一个数据的有效数字位数是5位,而后一个的有效数字位数是3个。因此可以判定测量前一个数据的量具比测量后一个数据的量具的准确度高。所以,小数点后的“0”,不可随意取舍。

2.测量结果有效数字位数的确定

(1)不确定度的位数一般只取一位,若首位是1时可取两位。相对不确定度为百分之几,一般也只取一、两位。

(2)由不确定度决定测量结果有效数字位数,即测量结果的有效数字最后一位应与不确定度所在位对齐;若不确定度取两位,则测量结果有效数字的末位和不确定度末位取齐。

例如,U=(6.040±0.005)V和g=(981.2±1.8)cm·s-2

(3)有效数字尾数舍入规则:尾数“小于五则舍,大于五则入,等于五凑偶”。这种舍入法则使尾数入与舍的概率相同。例如:将下列数值取四位有效数字。

3.14159→3.142,2.71729→2.717,4.510501→4.511,4.511500→4.512。

(4)同一个测量值,其精度不应随单位变换而改变。有效数字位数与小数点的位置无关。例如:

img51

对非十进制单位变换时,则以保持误差所在位为有效数字的末位为原则。

例如img52=93.5°,粗略判断其误差不小于0.1°。若要改用弧度为单位,则先换算其误差约为img53×0.1≈0.002rad,然后将测量值换算,应保留到误差所在位为止。所以img54×93.5=1.632rad。

3.测量结果的科学表示方法

测量结果的表示,一般应采用科学表示法,即用有效数字乘以10的幂指数的形式来表示。一般小数点前只取一位数字,幂指数不是有效数字。

例如    1.5kg可写成1.5×103g,不能写成1500g

      (5234±1)km应写成(5.234±0.001)×106m

      (0.000456±0.000003)s应写成(4.56±0.03)×10-4s

二、有效数字的运算规则

在间接测量中必然要遇到有效数字的运算。运算结果的有效数字一般要由不确定度的量级来决定。所以,对于已经给出了不确定度的有效数字,在运算时应先计算出运算结果的不确定度,然后根据这个不确定度决定结果的有效数字位数。而对于没有给出不确定度的有效数字,在运算时则按以下几种具体运算的规则来确定运算结果的有效数字位数。

(1)加减法运算规则:以参与运算各量中有效数字最后一位位数最高的为准并与之取齐。

(2)乘除法运算规则:以参加运算各量中有效数字最少的为准,结果原则上与有效数字最少的相同,但当结果第一位数是1、2、3时,可多取一位。

(3)指数法运算规则:指数运算结果的有效数字位数与指数的小数点后的位数相同(注意包括紧接小数点后的零)。

(4)三角函数法运算规则:三角函数计算结果的有效数字与角度的有效数字位数相同。

(5)对其他函数运算我们给出一种简单直观的方法:将自变量可疑位上下变动一个单位,观察函数结果在哪一位上变动,结果的可疑位就取在该位上。

另外,对一个包含几种不同形式运算的运算式,应按上述的运算原则按部就班进行运算。必须注意,运算中途得到的中间结果应比按有效数字运算规则规定的多保留一位,以防止由于多次取舍引入计算误差,但运算最后仍应舍去。

习 题 三

(1)以毫米(mm)为单位表示下列各值:

  1.58m  0.01m  2cm  3.0μm  2.58km

(2)指出下列记录中,按有效数字要求哪些有错误:

①用米尺(最小分度为mm)测量物体的长度:

 3.2cm  50cm  78.86cm  60.00cm  16.175cm

②用安培计(最小分度为0.05A)测电流

 2.0A  1.450A  1.010A  0.605A  0.982A

(3)应用有效数字规则计算下列各式:

①3.00×4.00+40.0×1.00+10×0.1=?

②2.4×102-2.5=?

(4)按照测量结果报道要求和有效数字规则,检查并改正以下错误:

①L=(10.8000±0.2)cm

②R=(9.75±0.0626)cm

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈