数据运算规则---加减法运算规则:

  计量专家 ·  2012-01-16 09:49  ·  45845 次点击
数据运算规则---加减法运算规则:
几个准确度不同的数据相加、相减时,按取舍规则,将小数位数较多的数简化为比小数位数最少的数只多一位数字的数,然后计算,计算结果的小数位数取至与原小数最少的数相同。
如14.5+0.664+2.6837
按上述原则修约后运算:
14.5+0.66+2.68=17.84≈17.8
乘法运算规则:同上
例:34.59×12.6=435.834≈436
乘方运算规则:幂的底数药铺几位有效数字,运算结果就保留几位有效数字。
例:(2.46)²=6.051≈6.05
开方运算规则:被开放数有几位有效数字,求得的方根就得保留几位有效数字。
例:√8.6=2.933≈2.9
注意:43.487(保留两位数字)→43.49→43.5→44因多次连续修约,错误

0 条回复

暂无讨论,说说你的看法吧!

 回复

你需要  登录  或  注册  后参与讨论!