西门子商城
西门子中国
普通
本版热门话题
相关推荐
相关帖子推荐
恭喜，你发布的帖子
发布于 2022-04-01 07:36:34
8楼
实数，计算机原理
FOLAT 32位 有效数字 6-7位
DOUBLE 64位 有效数字 15-16位
例如a=123456.789E5
b=a+20 理论应该等于12345678920 实际只能保证7位有效数字，后边的数字是没有意义的。应当避免一个很大的数和一个很小的数做运算。就比如1.0/3*3，并不等于1道理是一样的。
请填写推广理由：
分享
只看
楼主
