回复:BUG? BUG? 我觉得应该算是BUG

yming

西门子1847工业学习平台

  • 帖子

    23148
  • 精华

    881
  • 被关注

    1253

论坛等级:至圣

注册时间:2004-03-06

钻石 钻石 如何晋级?

发布于 2019-12-10 21:26:20

1楼

嘿嘿。用到浮点就会有这种问题。更别说变换了。浮点数十进制有效位数是很少的。

当年16位的电脑更出错了。初代8位电脑计算才麻烦呢。


浮点计算不能反复用,越多误差越大、精度越差。


你这种需求应该有专门的函数吧?

我记得这种标准算法不是用左位移;减循环么?

学而时习之,不亦说乎?温故而知新,不亦乐乎?
评论
编辑推荐: 关闭

请填写推广理由:

本版热门话题

SIMATIC S7-1500系列

共有10590条技术帖

相关推荐

热门标签

相关帖子推荐

guzhang

恭喜,你发布的帖子

评为精华帖!

快扫描右侧二维码晒一晒吧!

再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!

  • 分享

  • 只看
    楼主

top
您收到0封站内信:
×
×
信息提示
很抱歉!您所访问的页面不存在,或网址发生了变化,请稍后再试。