发布于 2019-07-17 19:21:03
5楼
你一个电气工程师问这种正整数除法运算小学常识没问题么?
很简单的 整数运算8/10*10=0没人会说错了。整数8除10结果就是0,然后0再乘10还是0没问题。PLC的IW就是一个整数!
你不要把整数运算歪曲为浮点数运算然后理所当然的是你歪曲出来的结果。你认为8/10=0.8,然后这0.8是整数?0.8*10=8?这是整数运算?
如果想不通,建议你先学学计算机运算基础知识!编程入门知识!如果连最基本的数据类型、最基本的四则运算都不懂就来提问这些啼笑皆非的错误很丢脸的。
还有,除10运算,在精度上可以理解为放弃最后被除数的一位精度!为什么你认为除10再乘会没任何改变?很简单的整数124/10*10=120就是正确的!结果就是最后一位精度被四舍五入了,在有些场合确实感觉就是消除了最后一位数的干扰,但这只是杀鸡取卵,把高精度的测量贬低了一个量级罢了。