恭喜,你发布的帖子
发布于 2018-03-01 20:12:46
1楼
浮点数的意思就是小数点是浮动的,如果小数点位数是一定的就要定点数了,比如金钱的计算就是一个定点数,最多只能精确到分,就是0.01元。浮点数与之相对,如果浮点数很小,那么用来装载整数的位就少,用来装载小数的位就多,就像一个空间分成两部分,一部分是主动的可以理解为整数部分,另一部分是从动的,如果整数部分占的空间大了,那么小数部分就被排挤的只占很少一部分。如果一个浮点数就像 VD216里是0.0004,VD310是8191.900 ,两个数相加,最终的精度是以大数为准,VD310中的数据精度为一个小数点,即精度为0.001,那么VD216就要将第3位小数点后的小数都舍去,VD216变成了0,相加的结果是没有增加。单精度浮点数最高有七位有效数字,小数点前1位,小数点后6位。不知道你明白了没有,有人说数值相差太大计算就会出问题就是因为精度相差太大,造成小数加不上去,同样其它运算也会出现问题。如果两个数相差太大在程序上做一些处理。
请填写推广理由:
分享
只看
楼主