恭喜,你发布的帖子
发布于 2020-04-30 08:46:51
34楼
real类型的精度只有6位(小数位只保留6位),Lreal类型的精度是15位。
小数位前6位都是9,后面的位数相加结果可能是进位,如果是real类型,则截取小数位前6位,导致会影响结果的小数位被截断了,影响结果. 若是Lreal类型,截取小数位前15位,只要在前15位之内的变化,都没有问题。
例如12.99999996+0.00000004,若是real类型,结果是12.999999,而Lreal类型为13.0.
请填写推广理由:
分享
只看
楼主