回复:要想在运算过程中保留10位左右的有效数字,咋整啊?

peisong

  • 帖子

    389
  • 精华

    1
  • 被关注

    20

论坛等级:侠士

注册时间:2009-02-10

普通 普通 如何晋级?

发布于 2012-01-03 10:48:22

11楼

数据太大了或者太小了的时候都是用的科学计算法了,即使增加到20位数字,后面的数字已经是不在一个数量级上的了,属于可忽略的部分了。
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-300/400

共有54802条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
X 图片
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。