回复:10的7次方=?

划痕

  • 帖子

    2009
  • 精华

    23
  • 被关注

    16

论坛等级:侠圣

注册时间:2009-08-14

普通 普通 如何晋级?

发布于 2011-12-03 09:06:45

3楼

quote:以下是引用希银纸在2011-12-03 08:57:27的发言:
quote:以下是引用划痕在2011-12-03 08:34:42的发言:
这应该和浮点数支持的有效数字有关,在S7中浮点数最多允许输入6位有效数字。

又用仿真试了试10**8=1e+008,10**9=1e+009,唯独10**7≠1e+007,不得其解,也试过o_num1:=ROUND(10**7),结果还是=9.999997e+006
还请达人指点

不好意思。刚才做完测试实验,已经修改回帖了。呵呵,LZ真的是很细心的。
结果9.999997e+006的有效数字为7位,S7中支持的有效数字为6位,后一位为估读位。这样的结果与理论结果的偏差相当小,可以忽略。<个人观点,仅供参考>
No discussion, no outcome.
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-300/400

共有54616条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。