找答案的高端用户(找答案钻石及双钻级别的用户)将尽可能从此问题下的所有回
答中,为您推荐最佳答案。届时您可以根据推荐数采纳答案。
如果自提问时间起7天内您仍无法选出最佳答案,您可以选择“无满意答案”关闭此问题。
根据手册里说的精确到小数点后6位,不能解释这个问题!
有厂家的技术人员提供了两个方向:
1.整数位和小数位差的太大 会出现这个问题!
2.再运算符点数时 ,涉及到2 或者2的倍数,就会进入死循环(这点完全不懂)
请问这到底是什么问题,有没有技术性的文件可以阅读!
小程序查看
手机扫码追踪该问题
手机扫码追踪该问题,
觉得实用,立即去分享!
点击复制链接
这是实数相加的原理决定的,实数相加,是按科学计数法,先指数对齐,再加前面的小数计数部分。累加器只有8位,能够累加的只有7位,当相加的两个数相差超过10^7时指数对齐后,小数就变成了0,所以不能累加了。为了避免出现这样的问题,可以采用多次累加,sum=sum+pv;
sum>sum_sp则sum1=sum1+sum,sum=0,重新累加。
sum1>sum1_sp则sum2=sum2+sum1,sum1=0,重新累加。
.........
最后总的累加值就是Σsum。
参考:
https://www.ad.siemens.com.cn/service/answer/solution.aspx?Q_ID=183769&cid=1077
首次回答问题,获得
双倍西币积分!
立即成为技术知识分享的一员!
找答案微信小程序
提问
搜索
欢迎您访问支持中心!
丰富的视频,全方位的文档,大量的网友交流精华……
为了更好的完善这些内容,我们诚邀您在浏览结束后,花20秒左右的时间,完成一个用户在线调查!
感谢您的支持!