请教:仪器精度和有效数字位数的关系

  lywbanner ·  2009-10-31 07:40  ·  53871 次点击
本人是一名教师,在教授《误差分析与数据处理》这门课时,遇到一个问题,一直没弄明白,心中总有个疑团,希望有高手释疑解惑。
问题是这样的:用千分尺(螺旋测微器,精度为0.01mm)测量某物体长度,为23.341mm,请问小数点后的数字,那几位是准确的?
书上说,小数点后第二位,即0.04已经不准确了,第三位就更不准确了。可我认为仪器的精度为0.01mm,小数点后第二位应该是精确的,到底谁对谁错?我搞不清楚了,请高手指点。谢谢!!!

8 条回复

syl_lcw  2010-03-10 21:12
可以看看千分尺的检定规程。
金海  2010-03-10 12:38
量程为0-25mm的千分尺最大允许示值误差为0.004mm,即测量结果可能d在23.337mm-24.345mm之间。
dalai007  2010-03-08 21:16
**回复 6# _冯宇_ **


人家是在教学 不是在搞计量 你的这套理论很好 但是在教学中是不经济的 为了解释这么一个小问题 庞引繁解的 不值得
冯宇  2010-03-06 22:46
最后一位是估读的,是不准的,你可以看看千分尺的规程,参考千分尺的最大允许误差,而且你可以引入不确定度的概念,评定一下你本次测量的不确定度度数值是多少,看看你测量的真值在什么范围离散,也说明问题,不能单纯说哪位不准,测量员的经验有时也有影响
qhw  2009-11-19 12:44
精度的概念还有提的吗?不是GB/T 6379里没有这概念,不知道如何理解
adam.ji  2009-11-18 08:33
千分尺精度为±0.01mm,也就是0.02mm,适合测量公差为0.1-0.2mm的尺寸。小数点后3位为估读数字,不精确。
michaelyu  2009-11-17 15:34
你是教师都不知道啊?那怎么教学生呀?
Alu  2009-10-31 08:18
如果您的千分尺的精度是0.01mm,读出的数是23.341mm,正常读数只能读到23.34mm,后面的0.001mm是估读的。

 回复

你需要  登录  或  注册  后参与讨论!