恭喜,你发布的帖子
发布于 2020-04-22 09:33:10
31楼
我其实是早年在EXCEL中遇到的。处理财务数据(小数点后两位)时,金额较少时,你看不出来,当处理金额很大时,就会出现错误。和会计手工记账对不上了。这才理解浮点的数据格式和有效位数的问题。
后来在工程计算上,也会使用EXCEL来计算;如计算连续轧制压下量、每道的减径量等计算。理论上当然是使用上道次的结果作为本次计算的初值,计算本道次压下量;实际上不行的!虽然显示的永远是一长串数字,但是有效位数越来越少,计算结果离真值的误差会越来越大。
这主要表现在浮点数据的乘除运算上,改变数据处理方式,浮点乘除运算只用一次,保持可信有效数据长度不至于减少太多。
我记得,早年有个报道,好像是伦敦金融中心的程序员。就是利用这个浮点计算的问题,将银行每天成千上万笔交换中,汇率计算的舍去误差,在程序中偷偷存到自己户头上,居然累计了大量财富。
脑洞大开!!!!
请填写推广理由:
分享
只看
楼主