回复:流量累积问题

VOLLMER

  • 帖子

    1248
  • 精华

    41
  • 被关注

    47

论坛等级:奇侠

注册时间:2003-06-06

普通 普通 如何晋级?

发布于 2015-04-13 22:12:45

14楼

今天在qq群里扯到这个问题了。
受制于real格式大约能表示6.5位的数字精度,所以需要各种办法来处理维持精度。

要是real有几百位的精度,就不用这么周折了---哈哈哈

从1200开始,可以使用lreal格式了,这种格式可以提供的14.5位精度可以适合一些累计的场合了。楼主的例子恰好也是放大了6位数。

有条件的可以试试哦。
弱者道之用。
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-300/400

共有54624条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。