签到有奖
消息提醒
运维工程师专区
官方商城
点击复制链接
关注该帖后,有多人参加探讨会对您通知与提示!
帖子
精华
被关注
论坛等级:奇侠
注册时间:2008-02-10
普通 如何晋级?
发布于 2018-06-05 21:08:28
10楼
是不是就是1.3的n次方了?那不是分分钟溢出了吗?
引用7楼详细内容:
谢斑竹,两个实数相乘,一个是数据块中定义为real类型的实数(当时里面的实际值是1.0),另一个直接输入的1.3,经过多次相乘就成了这样的结果。斑竹能否试一下?
补充:在模拟测试中,可以看到,乘积不断地变化,直到变成这个样子,就不再变化了。
引用6楼详细内容:
多次计算应该没问题的,楼主前个帖子的1.3说是直接值是什么意思?
引用5楼详细内容:
向各位汇报:再次模拟了那段程序,发现,由于设计不严谨,导致程序运行了多次,也就是每个扫描周期运行计算一次,在模拟中可以看到,数据经过多次运算后,就成了现在的结果,当时算的是1.3*1.0.数据类型没有问题。请问各位,在这种情况下,出现这种计算结果正常吗?谢谢。
引用详细内容:
这种情况多数是数据类型不对应
斑竹请看原程序。
REAL2.GIF
假如如您所说,经过多次运算溢出了,就显示这样的结果吗?
我看了一下,大约经过1秒左右,就不变化了。
再回斑竹,如果只计算一次,结果是对的。计算多次是程序不够严谨所致。
请填写推广理由:
AI 小西智伴登场,7×24 小时权威支援,让技术支持告别等待!
助你技有所长,论有所获
首次发帖探讨工控技术话题 立获新人礼包,100中奖哦! (包含周边、书籍、兑奖西币)
共有54616条技术帖
恭喜,你发布的帖子
快扫描右侧二维码晒一晒吧!
再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!
分享
只看 楼主
欢迎您访问支持中心!
丰富的视频,全方位的文档,大量的网友交流精华……
为了更好的完善这些内容,我们诚邀您在浏览结束后,花20秒左右的时间,完成一个用户在线调查!
感谢您的支持!