回复：计算结果为何不准确？-技术论坛-工业支持中心-西门子中国

回复：计算结果为何不准确？

已锁定

zhangli0

帖子

17143
精华

63
被关注

890

论坛等级：至圣

注册时间：2003-06-06

钻石如何晋级?

发布于 2024-01-12 08:57:04

37楼

因为累加器的精度问题，浮点数是无法准确的表示的，所以你多次运算就会有因为除不尽等原因，造成部分小数丢失或者四舍五入进位的情况。

虽然64的精度搞了很多，也存在同样的问题，所以还是不能用等于。

活到老，学到老！为了生活学习吧！

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

AI 小西智伴登场，7×24 小时权威支援，让技术支持告别等待！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-200 SMART

共有8945条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。