恭喜,你发布的帖子
发布于 2020-07-28 20:53:50
17楼
如果只是为了显示设备在累积运算,就不说啥了。
这种32位浮点的有效位数就小数点后6位。运算后的其他位都是“蒙”你的。
累积就是用整数DWORD。其中的值1是无量纲的。定义为测量仪器的感量(灵敏度)。
这样的累积才是准确的。
显示只是乘上这个感量的量纲。
我确实有些钻牛角尖,不过这是有意义的。
32位浮点数如何比较准确地累积,这个问题已经用Kahan算法解决了,我也没有在本帖展开讨论。
你所说的用整型累积感量的事情确实有,在脉冲型流量计上就是。一个脉冲代表的值我叫它当量。
32位浮点数的有效位数并不是小数点后6位,不知道你从哪里知道的?
请填写推广理由:
分享
只看
楼主