回复：10的7次方=？-技术论坛-工业支持中心-西门子中国

回复：10的7次方=？

Automann

帖子

6168
精华

138
被关注

308

论坛等级：至圣

注册时间：2004-12-23

普通如何晋级?

发布于 2011-12-03 10:52:29

4楼

两方面的原因会导致产生计算误差：
1. 函数运算应该是用台劳级数近似计算的，难免有误差。
2. 浮点数的精度取决于尾数的位数，有限的尾数的位数（23位）也会产生误差。
所以有误差是必然的，不用奇怪。
至于有的计算没有误差，纯属偶然，运气好，也不用奇怪。

追求完美

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

AI 小西智伴登场，7×24 小时权威支援，让技术支持告别等待！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-300/400

共有54621条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。