舍入误差

  grxlj ·  2008-10-23 16:09  ·  22663 次点击
目录
词语解释
词语解释
由于计算机的字长有限,进行数值计算的过程中,对计算得到的中间结果数据要使用“四舍五入”或其他规则取近似值,因而使计算过程有误差。这种误差称为舍入误差。
data/attachment/portal/201111/06/091229wq4gw504vdvrcqt0.jpg舍入误差

0 条回复

暂无讨论,说说你的看法吧!

 回复

你需要  登录  或  注册  后参与讨论!