测量中的数据处理
- 格式:docx
- 大小:15.51 KB
- 文档页数:4
一、测量中的数据处理
⒈、有效数字的概念
人们在日常生活中接触到的数,有准确数和近似数。对于任何数,包括无限不循环小数和循环小数,截取一定位数后所得的即是近似数。同样,根据误差公理,测量总是存在误差,测量结果只能是一个接近于真值的估计值,其数字也是近似数。
近似数有效数字的概念是,当该近似数从左边的第一个非零数字算起,直到最末一位数字为止的所有数字都是有效数字。一个近似数有n个有效数字,也可称为有n位有效数字。
测量结果的数字,其有效位数代表结果的不确定度。例如:某长度测量值为19.8mm,有效位数为3位;若是19.80mm,有效位数为4位。在有效位数中除末位数字为可疑或不确定外,其余各位数都是准确可知的。
显而易见,有效位数不同,它们的测量不确定度也不同,测量结果19.80mm比19.8mm的不确定度要小。同时,在判断有效数字时,对“0”应加倍注意,它是否为有效数字,取决于它在近似数中的位置。在计量中,小数点右边第一个非“0”数后的“0”不能舍去,因为这些“0”都是有效数字。
⒉、数据修约
(一)数据修约的基本概念
在数字运算中,对某一拟修约数,根据保留数位的要求,按照一定的规则将其多余位数的数字进行取舍,留下需要位数的数字来代替
拟修约数,这一过程称为数据修约。为了简化计算,准确表达测量结果,必须对有关数据进行修约。
(二)数据修约规则
我国的国家标准《数值修约规则》GB 8170--87,对“1”、“2”、“5”间隔的修约方法分别作了规定。对建筑工程勘察单位的试验数据的修约,通常采用“1”间隔的修约方法。
下列规则是一些常用的基本法则:
1.汜录测量数值时,只保留一位可疑数字;
2.除非另有规定外,可疑数字表示末位上有±1个单位,或下一位有±5个单位的误差;
3.当有效数字位数确定后,其余数字应一律舍去。舍去办法:凡末位有效数字后边的
第一位数字大过5,在前一位上增加1,小于5则舍去。等于5时,如前一位为奇数,则增加1,如前一位为偶数则舍去不计。(即:有效数字后面4舍6入,等于5时,奇进偶不进)需要指出的是,数据修约导致的不确定度呈均匀分布,约为修约间隔的1/2。在进行修约时还应注意,不要多次连续修约(例如:12.251-+12.25→12.2),因为多次连续修约会产生累积不确定度。此外,在有些特别规定的情况(如考虑安全需要等)下,最好只按一个方向修约。
⒊、近似数运算
(一)加、减运算
加减运算规则:近似数的加减中,其位数以小数位最少的数为准,其余各数均修约成比该数多保留一位,多余位数应舍去。计算结果的小数位数,应与参与运算的数中小数位数最少的那个数相同。若汁算结果尚需参与下一步运算,则可多保留一位。
例如:18.30+1.4546十O.876→18.3+1.45+0.88=20.63≈20.6 计算结果为20.6。若尚需参与下一步运算,则取20,63。(二)乘、除(或乘方、开方)运算
乘除运算规则:在进行数的乘除运算时,以有效数字位数量少的那个数为准,其余的数的有效数字均比它多保留一位。运算结果(积或商)的有效数字位数,应与参与运算的数中有效数字位数最少的那个数相同。若计算结果尚需参与下一步运算,则有效数字可多取一位。
例如:1.1m×0.3 268m×0.10
300m→1.1m×0.327m×0.103m=0.0370491m3≈0.037m3 计算结果为0.037m3。若需参与下一步运算,则取0.O 370m3。
乘方、开方运算类同。
二、测量误差
⒈、测量误差和相对误差
(一)测量误差
测量结果减去被测量的真值所得的差,称为测量误差,简称误差。
以公式可表示为:测量误差等于测量结果—真值
测量结果是巾测量所得到的赋予被测量的值,是客观存在的量的实际表现,仅是对测量所得被测量之值的近似或估计,显然它是人们
认识的结果,不仅与量的本身有关,而且与测量程序、测量仪器、测量环境以及测量人员等有关。真值,它是通过完善的或完美无缺的测量,才能获得的值。所以,真值反映了人们力求接近的理想目标或客观真理,本质上是不能确定的,它只是一个理想的概念。实际上用的是约定真值,须以测量不确定度来表征其所处的范围。也就是说,测量结果都具有误差,误差自始至终存在于一切测量过程中,这就是误差公理。
一个误差,若不是正值(正误差)就是负值(负误差),它取决于这个结果是大于还是小于真值。所以测量值呈正态分布曲线。