恭喜,你发布的帖子
发布于 2022-10-21 22:42:40
18楼
这个问题,我是这样理解的:
1、浮点数存在大数吃小数问题,具体的运算是加减,本质是加运算。
2、这个问题一般出现在累加场合,谁是大数能够确定。
3、假如Real1是大数,Real2是小数,NewReal是相加后的和值。
4、相加后,究竟产生了多少的精度损失?
5、做abs(Real1-NewReal)的差值,与abs(Real2)作比较,假如Real2为非零值,可以用百分比表示误差。
6、abs(Real1-NewReal)/abs(Real2)超出某一范围,认为误差已不可接受,点亮AL指示。
请填写推广理由:
分享
只看
楼主