有效数字的位数
grxlj · 2008-10-23 16:29 · 43051 次点击
分析数据的处理
一.有效数字及其运算规则
1.有效数字的意义和位数
有效数字:实际上能够测量到的数字,包括全部可靠数字及一位不确定数字在内.
m◇台秤(称至0.1g):12.8g(3),0.5g(1),1.0g(2)
◆分析天平(称至0.1mg):12.8218g(6),0.5024g(4),0.0500g(3)
V★滴定管(量至0.01mL):26.32mL(4),3.97mL(3)
★容量瓶:100.0mL(4),250.0mL(4)
★移液管:25.00mL(4);
☆量筒(量至1mL或0.1mL):26mL(2),4.0mL(2)
2.几项规定
(1)数字前0不计,数字后计入:0.02450
(2)数字后的0含义不清楚时,最好用指数形式表示:1000(1.0×103,1.00×103,1.000×103)
(3)自然数可看成具有无限多位数(如倍数关系、分数关系);常数亦可看成具有无限多位数,如eл
(4)数据的第一位数大于等于8的,可多计一位有效数字,如9.45×104,95.2%,8.65
(5)对数与指数的有效数字位数按尾数计,对数的有效数字只计小数点后的数字,即有效数字位数与真数位数一致
如10-2.34;pH=11.02,则=9.5×10-12
(6)误差只需保留1~2位;
(7)化学平衡计算中,结果一般为两位有效数字(由于K值一般为两位有效数字);
(8)常量分析法一般为4位有效数字(Er≈0.1%),微量分析为2位。
3.有效数字运算中的修约规则
四舍六入五成双例如,要修约为四位有效数字时:四舍六入五考虑
五后非零则进一;五后皆零视奇偶;前为奇则进一;五前为偶则舍弃;不许连续修约
尾数≤4时舍,0.52664-------0.5266
尾数≥6时入,0.36266-------0.3627
尾数=5时,若后面数为0,舍5成双:10.2350----10.24,250.650----250.6
若5后面还有不是0的任何数皆入:18.0850001----18.09
4.运算规则
加减法:结果的绝对误差应不小于各项中绝对误差最大的数.(与小数点后位数最少的数一致)
50.1±0.150.1
1.46±0.011.5
+0.5812±0.001+0.6
52.141252.2
52.1
乘除法:结果的相对误差应与各因数中相对误差最大的数相适应(即与有效数字位数最少的一致)
例10.0121×25.66×1.0578=0.328432
(±0.8%)(±0.04%)(±0.01%)(±0.3%)
例21.0005,五位有效数字
0.5000,31.05%四位有效数字
0.0540,1.86三位有效数字
0.0054,0.40%两位有效数字
0.5,0.002%一位有效数字