回复:简单的加减法运算,为什么出现大的波动,求大神!

威师爷

  • 帖子

    5108
  • 精华

    47
  • 被关注

    255

论坛等级:至圣

注册时间:2013-09-18

白金 白金 如何晋级?

发布于 2016-06-17 10:27:32

4楼

 我以前遇到双整数转换为浮点数并且该数据始终是没有尾数的。

然后与一个有尾数的浮点数进行运算,这个时候发现得到的结果是会跳动的。


例如 30+3.14159=得到的结果会跳动然后我改了一下程序如下:

((30+0.001)+3.14159)-0.001=得到的结果就没有发现有波动的情况。


这个是以前遇到的一点情况,只代表个人意见。

工业起重机防摇摆 QQ:404136820 AntiSwayControl
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-300/400

共有54615条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。