quote:以下是引用刹那之间在2011-12-14 08:45:39的发言:quote:以下是引用yanxiao在2011-12-13 22:57:47的发言:
我的做法是:整数不会有累积误差,所以,在秒级累计时,随时把整数部分取出,累加到整型的变量中。
谢谢斑竹了。我们这计量程序还要去进行计量认证,如果这么做的话,每秒得到的流量的小数部分都舍去了,还不知道能否达到计量标准要求。
不是让你把小数丢掉。比如,在秒级累计得到一个数,5.12345,把5取出加到整数累加器上,剩下的0.12345继续参与秒级累加。实数的位数有限,S7200是32位格式,有效数为6位(10进制)左右,所以,很怕数量级相差大的数进行加减。保持秒级累加值在一个较小范围,可以有效减少累积误差。