回复：浮点数的计算如何保证精度-技术论坛-工业支持中心-西门子中国

回复：浮点数的计算如何保证精度

jacky_andy

帖子

2277
精华

19
被关注

31

论坛等级：奇侠

注册时间：2004-12-21

普通如何晋级?

发布于 2013-04-06 08:23:22

8楼

quote:以下是引用n次看你的背影在2013-04-03 22:33:13的发言：
呵呵，楼主：STEP 7中的浮点数格式，单宽度，采用的是二进制浮点算术 ANSI/IEEE标准754-1985。如果涉及包含非常大和非常小数字的一长串数值的计算，可能会导致不精确的结果。这是这个标准的弊端，没办法的。

楼主不妨说说你的具体应用，也许可以采用其它算法。

一个ssi的传感器 2的25次方，每个单位的精度是0.04mm。理论上如果最大值和0.04mm相乘，由于数量级差别太大，就有可能出现精度丢失的问题。
当然这种精度的丢失可能影响不是很大，但是想知道这种问题的解决方法。

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

AI 小西智伴登场，7×24 小时权威支援，让技术支持告别等待！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-300/400

共有54624条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。