请教:仪器精度和有效数字位数的关系
lywbanner · 2009-10-31 07:40 · 63688 次点击
本人是一名教师,在教授《误差分析与数据处理》这门课时,遇到一个问题,一直没弄明白,心中总有个疑团,希望有高手释疑解惑。
问题是这样的:用千分尺(螺旋测微器,精度为0.01mm)测量某物体长度,为23.341mm,请问小数点后的数字,那几位是准确的?
书上说,小数点后第二位,即0.04已经不准确了,第三位就更不准确了。可我认为仪器的精度为0.01mm,小数点后第二位应该是精确的,到底谁对谁错?我搞不清楚了,请高手指点。谢谢!!!