恭喜,你发布的帖子
发布于 2024-09-12 15:46:41
2楼
补充:网上有的说把瞬时流量转换为小数和整数分别相加,以避免一个很大的累积量加小数时造成的误差,但我试了两次都是清零后开始累积的。另外,流量只有100立方米,转换成两部分后整数总是零。供大家参考。
就是实数运算时小数被省略导致的。
按描述100m3/h的流量,中断运算时先除以3600,再除以4,就变成了0.006944;
此时在与累积流量相加时,就会存在末尾小数被直接舍去的情况,造成累积量误差并且误差逐渐增大。
一般的处理方式是,每次都使用小数运算,每当小数部分大于1时,就让整数部分+1,小数部分减1,这样的运算小数部分的有效位数最多,更精准些。
请填写推广理由:
分享
只看
楼主