回复:浮点数计算公式

俞清洲

版主

  • 帖子

    692
  • 精华

    0
  • 被关注

    14

论坛等级:侠圣

注册时间:2016-05-19

钻石 钻石 如何晋级?

发布于 2023-01-31 10:17:30

1楼


以0.75为例,表示的浮点数存储规则。左侧最高位是符号位,后面紧跟8位是e的值,后面23位是尾数m,哪位是1,对应的数值就相加,得到m值,假如这23位全是1,就是1/2+1/4+1/8+1/16+...+1/2^23,这是一个很接近1的数。

这是32位的单精度浮点规则,如果换成64位的双精度浮点,就是e变成了10位,后面53位全是尾数,这样,浮点数的取值范围更大,精度也更高。

评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

PLC编程精英训练营

共有1548条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
X 图片
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。