签到有奖
消息提醒
运维工程师专区
官方商城
点击复制链接
关注该帖后,有多人参加探讨会对您通知与提示!
帖子
精华
被关注
论坛等级:至圣
注册时间:2004-03-06
钻石 如何晋级?
发布于 2020-09-07 17:35:42
14楼
瞬时流量是一个浮点数,我怎么用整数去运算呢?
引用4楼详细内容:
用整数,128位256位不信装不下。没有指令做进位就手动自己做。
咱看看年月日时分秒一共占了几个数字?
20200821102017
12345678901234
一共14个位。如果这是一个纯十进制数,那么14位的十进制数最大值转换成二进制就要几个位?
才46位。
有什么事情不是几个字节搞不好的,要是有,那就再加几个字节。
要是通讯报文获得的就是浮点数。后续仍使用浮点累积,终将会出现这个问题。
要想准确,就是转成无符号整数。
如何转?就是按仪器的感度为单位。
请填写推广理由:
2026共启We来,驰骋工控路,领跑新征程
助你技有所长,论有所获
首次发帖探讨工控技术话题 立获新人礼包,100中奖哦! (包含周边、书籍、兑奖西币)
共有10698条技术帖
恭喜,你发布的帖子
快扫描右侧二维码晒一晒吧!
再发帖或跟帖交流2条,就能晋升VIP啦!开启更多专属权限!
分享
只看 楼主
欢迎您访问支持中心!
丰富的视频,全方位的文档,大量的网友交流精华……
为了更好的完善这些内容,我们诚邀您在浏览结束后,花20秒左右的时间,完成一个用户在线调查!
感谢您的支持!