回复:浮点数减法指令

江诚

  • 帖子

    2495
  • 精华

    0
  • 被关注

    33

论坛等级:至圣

注册时间:2004-09-15

钻石 钻石 如何晋级?

发布于 2011-04-21 08:29:28

2楼

123.1231减132.123不是等于0.0001吗?
用浮点数减法指令算出来是约等于0.00009918
是这样的吗,解释一下?

楼主有个小错误
另外,记得浮点数运算结果的数量级与减数,被减数相差太大,也会有误差
以上仅供参考,如有差错,敬请原谅!
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-200

共有33257条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。