首页 >> 大全

浮点数float保留小数和四舍五入问题

2023-12-17 大全 28 作者:考证青年

使用%.2f对float保留两位小数时,产生的结果和预期不同,8.245保留两位小数的结果是8.24,8.255保留两位小数的结果是8.26,这就很奇怪了,为什么不是四舍五入

其实仍然是四舍五入,但根本问题是浮点数在计算机中不能精确存储,我们希望存储的是8.245,但其实计算机中存储的是8....;我们希望存储的是8.255,但其实计算机中存储的是8....。

这么看的话就容易理解了,8....保留两位小数,第三位是4,所以舍去,结果是8.24。8....保留两位小数,第三位是5,所以进位,结果是8.26。

小数点取舍原则__舍去小数点

到底5这个数在计算机中实际是4999....,还是5001..,最简单的是多打几个小数位出来看看,使用%.10f,就可以看出来。

舍去小数点_小数点取舍原则_

为什么浮点数不能精确表达?可以参考“IEEE二进制浮点数算术标准(IEEE 754)”。如果想严格的四舍五入,是需要特殊处理.5这个问题的,处理方法很多。

%f并没有找到解释四舍五入问题,找到了中的一个解释,应该原理类似:

关于我们

最火推荐

小编推荐

联系我们


版权声明:本站内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 88@qq.com 举报,一经查实,本站将立刻删除。备案号:桂ICP备2021009421号
Powered By Z-BlogPHP.
复制成功
微信号:
我知道了