恭喜,你发布的帖子
发布于 2018-06-06 10:53:57
11楼
斑竹请看原程序。
假如如您所说,经过多次运算溢出了,就显示这样的结果吗?
我看了一下,大约经过1秒左右,就不变化了。
再回斑竹,如果只计算一次,结果是对的。计算多次是程序不够严谨所致。
假设你的CPU是10ms一个周期,按你这样计算1s就是计算100次。如果db111.dbx12.3是单周期的脉冲还好,如果是常1,那么1.3的100次方,你想一下有多少,很快就溢出了。
请填写推广理由:
分享
只看
楼主