恭喜,你发布的帖子
发布于 2020-08-09 10:09:09
3楼
应该是现在的PLC浮点运算的问题。记得以前的浮点运算很少出现0.1的偏差问题,只从ARM内核大行其道后,到处看到浮点运算出现0.1偏差的问题。
讲真,这0.1的偏差我觉得很恶心。
真相就是以前的浮点运算是用IEE754算法计算的,基本上不会出现0.1偏差,ARM内核是使用高速的浮点运算硬件内核,为了快速计算并不是采用编程的算法(整数浮点数分开独立计算、浮点数固定次数循环计算精度),这样就会导致精度不相同从而出现偏差。
请填写推广理由:
分享
只看
楼主