回复：浮点数从0开始每次加上0.01，加5次之后第3位小数点后面开始出现数字，这是什么原因？-技术论坛-工业支持中心-西门子中国

回复：浮点数从0开始每次加上0.01，加5次之后第3位小数点后面开始出现数字，这是什么原因？

shine

帖子

8803
精华

39
被关注

157

论坛等级：至圣

注册时间：2003-06-06

普通如何晋级?

发布于 2018-10-25 10:59:07

13楼

展开查看

以下是引用lxm650在2018-10-25 10:53:22的发言 >11楼：

9楼说的对，单精度浮点数不能精确表达0.01，实际存储的是0.0099999，七位有效数字，累加起来就会有误差。双精度浮点数能够精确表达0.01。

其实，双精度也不能精确表示0.01，只是这个精度比单精度提高了很多。单精度的只有6到7位的有效位数，双精度可以达到15到16位

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

「技术论坛」、「找答案」关于 AI 辅助创作内容的使用规范

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-200

共有33295条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

X

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。