回复：计算结果为何不准确？-技术论坛-工业支持中心-西门子中国

回复：计算结果为何不准确？

已锁定

水煮花生

帖子

296
精华

4
被关注

8

论坛等级：侠圣

注册时间：2011-04-14

白金如何晋级?

发布于 2024-01-04 10:14:10

16楼

展开查看

以下是引用lctuan在2024-01-04 08:42:00的发言 >12楼：

确实如版主所说那样。

我用1200模拟测试了一下，结果可以准确了。200SMART好像不能类似1200这样使用吧？

以下是引用yanxiao在2024-01-03 13:01:14的发言 >3楼：这是位数有限带来的...

引用3楼详细内容：

这是位数有限带来的问题。

用一个整数的例子：

16位整数计算：

（1000*1000）/500

（1000/500）*1000

这两个式子，计算结果是不一样的。

如果改为32位计算，两个计算结果就一样。

浮点数也一样。

32位的浮点数产生0.0001的计算误差，使用64位浮点数，至少误差可以小到你看不到。

1200用的Lreal是双精度浮点数，64位；200smart只支持Real 单精度浮点数，32位。

多学长知识多问长见识

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

【投稿中】2026论坛驱动竞赛火热开启中！参赛100%有奖！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-200 SMART

共有9389条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

X

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。