› 文章› 技术

我们计算对误差要保留几位小数

  yxd192 ·  2008-07-05 16:56  ·  87303 次点击
请问，我们计算误差要保留几位小数
一块0.5级的表，我们计算出来误差是保留几位小数
例如：我们算出误差为0.14%
该怎么记录
又如我们算出误差为0.16%
该怎么记录呢
误差, 电磁学计量, 计算, 误差, 保留, 几位, 小数

2 条回复

gx_liudsh  2008-07-09 10:59
补充一下，准确度等级大于和等于0.5的保留小数一位，准确度等级在3.0以上的保留到个位数。
gx_liudsh  2008-07-07 10:19
国家计量技术规范 JJG1027-91 测量误差及数据处理(试行)
6.6.4进舍规则是：拟舍弃数字最左一位小于5时，舍去；大于5时(包括等于5而其后尚有非零的数)，进1，即保留的末位加1；拟舍数字最左一位为5，且其后无数字或皆为零时，按所保留的末位为奇数时，则进1，为偶数，则舍弃。

 回复

你需要  登录  或  注册  后参与讨论！

Copyright © 2020 All Rights Reserved. 仪器信息网(cncal.com) 版权所有
GMT+8, 2024-11-02 20:28, Processed in: 0.019041 (s)