恭喜,你发布的帖子
发布于 2017-09-18 08:51:52
12楼
32位浮点数,我按6位有效位解释。
假如,一次采样值是3位有效数,形如 x.xx
进过1000次以上的累加,如果可能是采样值的1000位以上,形如 ssss.ss
浮点数加之前,要做指数对齐,说白了,就是小数点对齐,形如:
ssss.ss
+ x.xx
--------------
产生结果前,没有形式上的数据丢失。
继续累加,和值大到这样的数: sssss.s
加之前的小数点对齐就变成:
sssss.s
+ x.x
--------------
采样值只能以2位有效数参与计算。
请填写推广理由:
分享
只看
楼主