回复:浮点数运算的问题-技术论坛-工业支持中心-西门子中国

回复:浮点数运算的问题

wb210xa

帖子

321
精华

18
被关注

15

论坛等级：侠士

注册时间：2003-06-06

普通如何晋级?

发布于 2011-05-23 13:46:10

3楼

如果仅仅是计算楼主的123456789.0 +987654321.0结果，显示肯定没问题，楼主在软件中试试就知道了，因为结果刚好是1111111110，即：1.1111111E9,与实际的1.11111111E9差值为110.此时误差为9.9E-8。误差应该不大。
问题是如果楼主取个再大的数据，或者数据值保留精度更高，此时运算完的结果差的就比较大了。

豆豆

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

AI 小西智伴登场，7×24 小时权威支援，让技术支持告别等待！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-300/400

共有54616条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。