quote:以下是引用希银纸在2011-12-03 08:57:27的发言:quote:以下是引用划痕在2011-12-03 08:34:42的发言:
这应该和浮点数支持的有效数字有关,在S7中浮点数最多允许输入6位有效数字。
又用仿真试了试10**8=1e+008,10**9=1e+009,唯独10**7≠1e+007,不得其解,也试过o_num1:=ROUND(10**7),结果还是=9.999997e+006
还请达人指点
不好意思。刚才做完测试实验,已经修改回帖了。呵呵,LZ真的是很细心的。
结果9.999997e+006的有效数字为7位,S7中支持的有效数字为6位,后一位为估读位。这样的结果与理论结果的偏差相当小,可以忽略。<个人观点,仅供参考>