回复：要想在运算过程中保留10位左右的有效数字，咋整啊？-技术论坛-工业支持中心-西门子中国

回复：要想在运算过程中保留10位左右的有效数字，咋整啊？

Automann

帖子

6168
精华

138
被关注

309

论坛等级：至圣

注册时间：2004-12-23

普通如何晋级?

发布于 2012-01-02 12:32:22

10楼

楼主是什么运算需要10位有效数字？原始数据（一般是测量得到的数据）的精度多高？如果原始数据精度不高（不可能有十位有效数字），你的计算要求10位有效数字毫无道理，你的大厦建立在沙滩上了。浮点数的6位有效数字一般足矣。

追求完美

评论

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

2026论坛首届竞赛正式开启！发帖100%有奖，等你来！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-300/400

共有54755条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

X

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。