回复：双精度浮点数如何处理？-技术论坛-工业支持中心-西门子中国

回复：双精度浮点数如何处理？

shine

帖子

8803
精华

39
被关注

157

论坛等级：至圣

注册时间：2003-06-06

普通如何晋级?

发布于 2012-12-13 22:45:44

6楼

计算累计流量并不一定就是通过脉冲计数的。32位的浮点数只有7位有效位，但双精度的有16位有效位，用于流量累计还是没有问题的，也就是当累计值和增量相差10的16次方的时候，累计才会无效。10的16次方是多少来着，好像是亿亿？
如果要在200中处理，只能按双精度浮点数的格式，舍弃一些精度，再转换为单精度浮点数或长整数等200可处理的数据类型之后再行处理。

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

AI 小西智伴登场，7×24 小时权威支援，让技术支持告别等待！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-200

共有33257条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。