回复:流量累积实验分享

已锁定

xiatianyun

  • 帖子

    861
  • 精华

    10
  • 被关注

    25

论坛等级:奇侠

注册时间:2020-05-09

白金 白金 如何晋级?

发布于 2020-07-28 20:53:50

17楼

展开查看
以下是引用yming在2020-07-28 20:00:00的发言 >

如果只是为了显示设备在累积运算,就不说啥了。

这种32位浮点的有效位数就小数点后6位。运算后的其他位都是“蒙”你的。

累积就是用整数DWORD。其中的值1是无量纲的。定义为测量仪器的感量(灵敏度)。

这样的累积才是准确的。

显示只是乘上这个感量的量纲。


我确实有些钻牛角尖,不过这是有意义的。

32位浮点数如何比较准确地累积,这个问题已经用Kahan算法解决了,我也没有在本帖展开讨论。

你所说的用整型累积感量的事情确实有,在脉冲型流量计上就是。一个脉冲代表的值我叫它当量。

32位浮点数的有效位数并不是小数点后6位,不知道你从哪里知道的?


评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-1200系列

共有15627条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
X 图片
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。