回复:问个浮点数判断的事情。

已锁定

yanxiao

版主

  • 帖子

    12327
  • 精华

    49
  • 被关注

    195

论坛等级:至圣

注册时间:2003-06-06

钻石 钻石 如何晋级?

发布于 2022-10-21 22:42:40

18楼

这个问题,我是这样理解的:

1、浮点数存在大数吃小数问题,具体的运算是加减,本质是加运算。

2、这个问题一般出现在累加场合,谁是大数能够确定。

3、假如Real1是大数,Real2是小数,NewReal是相加后的和值。

4、相加后,究竟产生了多少的精度损失?

5、做abs(Real1-NewReal)的差值,与abs(Real2)作比较,假如Real2为非零值,可以用百分比表示误差。

6、abs(Real1-NewReal)/abs(Real2)超出某一范围,认为误差已不可接受,点亮AL指示。

评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-200 SMART

共有9433条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
X 图片
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。