回复:BUG? BUG? 我觉得应该算是BUG

已锁定

笨笨笨笨

  • 帖子

    1005
  • 精华

    2
  • 被关注

    36

论坛等级:奇侠

注册时间:2004-03-16

黄金 黄金 如何晋级?

发布于 2020-04-22 09:33:10

31楼

展开查看
以下是引用yming在2019-12-14 11:00:41的发言 >16楼

我其实是早年在EXCEL中遇到的。处理财务数据(小数点后两位)时,金额较少时,你看不出来,当处理金额很大时,就会出现错误。和会计手工记账对不上了。这才理解浮点的数据格式和有效位数的问题。

后来在工程计算上,也会使用EXCEL来计算;如计算连续轧制压下量、每道的减径量等计算。理论上当然是使用上道次的结果作为本次计算的初值,计算本道次压下量;实际上不行的!虽然显示的永远是一长串数字,但是有效位数越来越少,计算结果离真值的误差会越来越大。

这主要表现在浮点数据的乘除运算上,改变数据处理方式,浮点乘除运算只用一次,保持可信有效数据长度不至于减少太多。


我记得,早年有个报道,好像是伦敦金融中心的程序员。就是利用这个浮点计算的问题,将银行每天成千上万笔交换中,汇率计算的舍去误差,在程序中偷偷存到自己户头上,居然累计了大量财富。

以下是引用东方红一红在2019-12-13 11:23:16的发言 >12楼: 伊默,算你运气好...

引用12楼详细内容:

 伊默,算你运气好,既不是你的问题,也不是系统bug。这种问题,难得一遇。我的理解可以算为数字计算机的系统误差。你的视野又扩展了,应该是痛并快乐着。

脑洞大开!!!!

心有多远路就有多远
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-1500系列

共有10590条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。