回复:浮点数的计算如何保证精度

jacky_andy

  • 帖子

    2277
  • 精华

    19
  • 被关注

    31

论坛等级:奇侠

注册时间:2004-12-21

普通 普通 如何晋级?

发布于 2013-04-03 16:43:09

4楼

quote:以下是引用Automann在2013-04-03 15:19:29的发言:
浮点数的乘除法运算是等精度的。浮点数的精度只有6位十进制数的有效数字。

这样的话,100万以上的浮点数运算就不能保证精度了。
如果确实有这样的运算需求怎么办?
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-300/400

共有54621条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。