测量计算中的有效数字
Aaron · 2011-07-11 09:03 · 48766 次点击
1、有效数字的概念
测量结果都是包含误差的近似数据,在其记录、计算时应以测量可能达到的精度为依据来确定数据的位数和取位。如果参加计算的数据的位数取少了,就会损害外业成果的精度并影响计算结果的应有精度;如果位数取多了,易使人误认为测量精度很高,且增加了不必要的计算工作量。
一般而言,对一个数据取其可靠位数的全部数字加上第一位可疑数字,就称为这个数据的有效数字。
一个近似数据的有效位数是该数中有效数字的个数,指从该数左方第一个非零数字算起到最末一个数字(包括零)的个数,它不取决于小数点的位置。
2、数字凑整规则
由于数字的取舍而引起的误差称为“凑整误差”或“取舍误差”。为避免取舍误差的迅速积累而影响测量成果的精度,在计算中通常采用如下的凑整规则:
(1)若拟舍去的第一位数字是0至4中的数,则被保留的末位数不变;
(2)若拟舍去的第一位数字是6至9中的数,则被保留的末位数加1;
(3)若拟舍去的第一位数字是5,其右边的数字皆为0,则被保留的末位数是奇数时就加1,是偶数时就不变。
3、数字运算规则
在数字的运算中,往往需要运算一些带有凑整误差的不同小数位的数值,这时应按下列规则进行合理取位。
(1)加减运算:在加减时,各数的取位是以小数位数最少的数为标准,其余各数均凑整成比该数多一位小数。
(2)乘除运算:乘除时,各数的取位是以“数字”个数最少的为准,其余各数及乘积(商)均凑整成比该数多一个“数字”的数,该“数字”与小数点位置无关。
(3)三角函数:三角函数值的取位与角度误差的对应关系如下:
角度误差10″1″0.1″0.01″
函数值位数5位6位7位8位