回复:BUG? BUG? 我觉得应该算是BUG

已锁定

蓝小燮

  • 帖子

    45
  • 精华

    0
  • 被关注

    1

论坛等级:侠士

注册时间:2013-05-22

普通 普通 如何晋级?

发布于 2020-04-30 08:46:51

34楼

real类型的精度只有6位(小数位只保留6位),Lreal类型的精度是15位。

小数位前6位都是9,后面的位数相加结果可能是进位,如果是real类型,则截取小数位前6位,导致会影响结果的小数位被截断了,影响结果. 若是Lreal类型,截取小数位前15位,只要在前15位之内的变化,都没有问题。

例如12.99999996+0.00000004,若是real类型,结果是12.999999,而Lreal类型为13.0.

评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-1500系列

共有10587条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。