回复:1200为什么0.7+0.1的时候不为0.87而为0.800001

已锁定

肖肖肖先生

西门子1847工业学习平台

  • 帖子

    567
  • 精华

    0
  • 被关注

    28

论坛等级:侠圣

注册时间:2019-08-24

钻石 钻石 如何晋级?

发布于 2022-07-30 14:00:49

4楼

实数(或浮点数)以 32 位单精度数表示,其格式为 ANSI/IEEE 754-1985 标准中所描述的!

  浮点数精确到小数点后第 6 位。 因此输入浮点常数时,最多只能指定 6 位小数。 计算涉及到包含非常大和非常小数字的一长串数值时,计算结果可能不准确。 如果数值 相差 10 的 x 次方(其中 x > 6),则会发生上述情况。例如: 100 000 000 + 1 = 100  000 000

评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-200

共有33257条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。