第四章数据处理
一算术平均值与最小二乘法原理
1算术平均值
算术平均值表示为
1n
nXi
i=l
当计量次数n足够大时,系列计量值的算术平均值趋近于真值,并且n越大算术平均值越趋近
于真值
2最小二乘法的基本原理
在一系列等精度计量的计量值中最佳值是使所有计量值的误差的平方和最小的值
对于等精度计量的一系列计量值来说它们的算术平均值即为最佳值
二有效数字及其运算规则
1有效数字
如果测量结果L的极限误差不大于某一位上的半个单位我们就说该位是有效数字的末位
并且如果该位到L的左起第一个非零数字一共有几位就说不得L有几位有效数字
测量的研究与测量结果必须附有不确定度项此时测量结果的最后一位应与不确定度处
于同一位上
2有效数字的运算规则
有效数字的运算规则是
1当几个数作加减运算时在各数中以小数位数最少的为准其余各数均凑成比该数多一
位小数所保留的多一位数字常称为安全数字
2当几数作乘法除法运算时在各数中以有效数字位数最吵的为准其余各数均凑成
比该数多一个数字而与小数点位置无关
3将数平方或开方后结果可比地质学数多保留一或相同
4对于复合运算中间运算所得数字的位数应比单一运算所得数字的位数至少多取一位
5若有效数字的第一位数为8或9则有效位数可增计一位
三数字舍入规则
数字舍入规则
1若舍去部分的数值大于是0.5则末位加1
2若舍去部分的数值大于是0.5则末位不变
3若舍去部分的数值大于是0.5则末位应凑成偶数即当末位为偶数时则末位不变当
末位为奇数时则加1
四测量结果的表示方法
测量结果可表示为
数值×测量单位±不确定度