恭喜,你发布的帖子
发布于 2019-05-16 14:48:52
5楼
计算机使用的是二进制,十进制下的有限小数转换成二进制可能是无限小数,而浮点数采用的是科学计数法,有效位就那么几位,这样就会丢失一部分精度。
比如十进制的0.1转换成二进制是0.0001100110011001100110011001100110011001100110011001101
取前几位的精度0.00011,再转换成十进制是0.09375,PLC里面浮点取的精度比这高,但也只是接近0.1,不会等于0.1的。
这样两个乘数都是近似值,结果自然也是近似值,但这个精度一般够用,不用太纠结。
用贴吧的一句话“图都绿了”跟这个原因类似。
请填写推广理由:
分享
只看
楼主