技术论坛

浮点数计算

作者 主题
游民

经验值: 57
发帖数: 39
精华帖: 0
浮点数计算


只看楼主 2009-03-10 09:49:17
L #ain_hi_real
L #ain_lo_real
-R
T #ain_range

三个变量都是浮点型,#ain_hi_real=32000,#ain_lo_real=0,为什么#ain_range计算结果是0 。。。

 
以下网友喜欢您的帖子:

  
重要声明:

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

帖子链接:https://www.ad.siemens.com.cn/club/bbs/post.aspx?a_id=531380&b_id=4&s_id=0&num=5

侠士

经验值: 1204
发帖数: 846
精华帖: 19
回复:浮点数计算


只看楼主 2009-03-10 09:53:20
数据类型Real的赋值改为:#ain_hi_real=3.2e4,#ain_lo_real=0.0e0看看。
naga xel:有时笨办法可以解决聪明问题,所幸俺总有笨办法。
以下网友喜欢您的帖子:

  
至圣

经验值: 32067
发帖数: 13369
精华帖: 51
回复:浮点数计算


只看楼主 2009-03-10 10:08:41
你的数据应该是32000.0和0.0这样才正确!整数和浮点数的存储格式是不一样的,所以直接读取就会出问题的。
活到老,学到老!为了生活学习吧!
以下网友喜欢您的帖子:

  
游民

经验值: 57
发帖数: 39
精华帖: 0
回复:浮点数计算


只看楼主 2009-03-10 10:29:43
是哦。。。 数据格式写错了!我的数值是从MW中转来的,忘记了还要写BTI
ITD
DTR

 
以下网友喜欢您的帖子:

  
至圣

经验值: 59339
发帖数: 12325
精华帖: 115
回复:浮点数计算


只看楼主 2009-03-10 12:54:41
数据格式出错,会造成数据运算出错。
 
以下网友喜欢您的帖子:

  
新手

经验值: 34
发帖数: 10
精华帖: 1
回复:浮点数计算


只看楼主 2009-03-11 09:40:46
从MW中就不要BTI了,直接ITD 然后 DTR 再运算。
 
以下网友喜欢您的帖子:

  
  • 上一页
  • 1
  • 下一页
收起
浮点数计算
×
扫描打开手机版
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。