怎样设定实数的精度-技术论坛-工业支持中心-西门子中国

怎样设定实数的精度

已锁定

竹林清风

帖子

24
精华

0
被关注

2

论坛等级：游民

注册时间：2007-06-22

普通如何晋级?

怎样设定实数的精度

870

9

2009-10-28 17:36:54

今天在现场检查程序发现一个很大的BUG在使用实数的比较指令时没有对实数的精度进行设置，导致数据不能比较，现在要做的就是把已有的实数转换一下精度，保留小数点以后的一位，第二位小数按四舍五入的原则处理。可找了很多地方也找不到在哪里设置实数的精度，请问高手是不是还要自己做程序呢？通常的处理办法是什么呢？

怎样设定实数的精度

已锁定

编辑推荐：关闭

请填写推广理由：

活动公告查看全部公告>

AI 小西智伴登场，7×24 小时权威支援，让技术支持告别等待！

热门视频，猜你喜欢

本版热门话题

SIMATIC S7-200

共有33257条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜，你发布的帖子

被评为精华帖！

快扫描右侧二维码晒一晒吧！

再发帖或跟帖交流2条，就能晋升VIP啦！开启更多专属权限！

分享
只看
楼主

您收到0封站内信：

×

×

信息提示

很抱歉！您所访问的页面不存在，或网址发生了变化，请稍后再试。