要想在运算过程中保留10位左右的有效数字,咋整啊?

已锁定

不死鸟---一辉

  • 帖子

    23
  • 精华

    0
  • 被关注

    4

论坛等级:游侠

注册时间:2005-04-18

普通 普通 如何晋级?

要想在运算过程中保留10位左右的有效数字,咋整啊?

2387

11

2011-12-23 13:46:12

我今天看了下,计算过程中浮点数都是保留六位有效数字,我想某些参数留十位以上的有效值,不知道咋弄呢
各位大侠指导下子啊!!
要想在运算过程中保留10位左右的有效数字,咋整啊? 已锁定
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-300/400

共有54715条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
X 图片
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。