回复:实数的小数位在加法中的问题

七色阳光

  • 帖子

    965
  • 精华

    5
  • 被关注

    8

论坛等级:侠圣

注册时间:2007-12-13

普通 普通 如何晋级?

发布于 2009-08-28 09:38:57

0楼

实数运算的精度
在计算中涉及到非常大和非常小的数,则有可能导致计算结果不精确。例如数值相差10的x次方倍,
而x>6时。
例如: 100 000 000+1=100 000 000
上面是在系统手册中的一段内容,现在10.0和0.01相差是10^4,在相加的过程中,当被加数到零点几是就会出现上面的情况;另外我说的这种情况是在对操作数频繁相加时出现的,越频繁出现的几率越高,这时我难以理解的。
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-200

共有33257条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。