如何计算保留位数 - 仪器网,仪器信息网,计量论坛

› 文章› 技术

如何计算保留位数

  好学生 · 2009-03-30 22:14 · 33950 次点击

如何计算检定结果的保留位数,是否根据分度值计算,如果是,如何计算分度值,请哪位老师举个实例说明,谢谢

 计算, 保留, 位数

1 条回复

Alu 2009-03-31 10:05: 分度值应该是设备的最小刻度.
如卡尺最小分度值是(数显：0.01),如果在校准过程中,测量20mm的量块,测的值就会出现整数或还有小数.
比如:20 , 20.01.
如果测的值是20,那么在记录的时候就要写:20.00

 回复

你需要登录或注册后参与讨论！