求教：有效数和小数点后保留位数的问题 - 仪器网,仪器信息网,计量论坛

› 文章› 技术

求教：有效数和小数点后保留位数的问题

  wei198508 · 2008-10-14 11:53 · 43260 次点击

比如CPK，pH，sigma等等应该保留几位小数或有效数值，国家或行业有没有这方面的标准的？

 求教, 有效数, 小数点, 保留, 位数, 问题

5 条回复

xuyafeng 2008-10-28 10:10: 我们国家制定了国家标准GB8170-1987<<数值修约规则可以看看.

wei198508 2008-10-15 10:46: 我想知道的是国家或行业对不同的检测项目小数点保留方面有没有规定？向我们这边的话现在做的一些检测项目的成绩书现在小数点保留都有些随意，没有很好的规范

jcgscbj 2008-10-14 19:21: 测量：是以确定被测对象的量值为目的的全部操作。在这一操作过程中，将被测对象与复现测量单位的标准量进行比较，并以被测量与单位量的比值及其准确度表达测量结果。例如用游标卡尺对一轴径的测量，就是将被对象（轴的直径）用特定测量方法（用游标卡尺测量）与长度单位（毫米）相比较。若其比值为30.52，准确度为±0.03mm，则测量结果可表达为（30.52±0.03）mm。

Alu 2008-10-14 18:10: 就拿CPK来说，一般保留2位小数.
如某产品破坏性数据计算CPK是：1.33，从评估角度看，1.33免强可以接受，如果是小于1.33，说明产品有问题，需要改善.

wei198508 2008-10-14 17:19: 大家帮帮忙啊.

 回复

你需要登录或注册后参与讨论！