我们计算对误差要保留几位小数 - 仪器网,仪器信息网,计量论坛

› 文章› 技术

我们计算对误差要保留几位小数

  yxd192 · 2008-07-05 16:56 · 88376 次点击

请问，我们计算误差要保留几位小数
一块0.5级的表，我们计算出来误差是保留几位小数
例如：我们算出误差为0.14%
该怎么记录
又如我们算出误差为0.16%
该怎么记录呢

 误差, 电磁学计量, 计算, 误差, 保留, 几位, 小数

2 条回复

gx_liudsh 2008-07-09 10:59: 补充一下，准确度等级大于和等于0.5的保留小数一位，准确度等级在3.0以上的保留到个位数。

gx_liudsh 2008-07-07 10:19: 国家计量技术规范 JJG1027-91 测量误差及数据处理(试行)
6.6.4进舍规则是：拟舍弃数字最左一位小于5时，舍去；大于5时(包括等于5而其后尚有非零的数)，进1，即保留的末位加1；拟舍数字最左一位为5，且其后无数字或皆为零时，按所保留的末位为奇数时，则进1，为偶数，则舍弃。

 回复

你需要登录或注册后参与讨论！