回复：在一个循环中使用了除不尽的分数，误差累积怎么处理？-技术论坛-工业支持中心-西门子中国

回复：在一个循环中使用了除不尽的分数，误差累积怎么处理？

我心依旧555

帖子

769
精华

9
被关注

34

论坛等级：奇侠

注册时间：2009-09-12

普通如何晋级?

发布于 2012-07-03 08:38:11

1楼

楼主可以看看浮点数的存储机制，不同长度的浮点数的有效位数是不同的，如果整数位越大，那么小数位就会变少（反之亦然），所以看你计算后的数值范围。
下面的是书上的关于R参数：
计算参数有以下的赋值范围：
± (0.000 0001 ... 9999 9999) （8 位数字、加符号和小数点）
整数值可省略小数点。正号可以不用写。
举例：
R0=3.5678 R1=-37.3 R2=2 R3=-7 R4=-45678.123
使用指数表示法可以赋值更大的数值范围：
± ( 10-300 ... 10+300 ).
虽然指数可以表示更大的范围超过8位数用零填充

一切皆有可能

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

【热门学习中】前沿技术专题：西门子工业新产品新功能新技术

热门视频，猜你喜欢

本版热门话题

SINUMERIK

共有25766条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

X

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。