发布于 2022-10-16 16:20:10
12楼
展开查看
以下是引用sangshunyang在2022-10-16 14:50:12的发言 >11楼:
如果没有系统的学习过浮点数在计算机中如何存储的都会有困惑为什不推荐用浮点数,这时建议百度一下 IEC 754。
数学上的 0.1 与 0.2 的和是 0.3 , 但在计算机中 0.1+0.2 却不等于 0.3 。浮点数在存储时有一部分存储的只是近似值。
下图 python 中 0.1+0.2 的计算结果:

学习了,这还真直接!
Stay Hungry ,Stay Foolish .