java为什么会出现精度丢失这种现象你知道吗
作者:扛麻袋的少年 时间:2023-07-04 05:24:38
很多人都知道:浮点数值不适用于无法接受舍入误差的金融计算中,即:我们常说的丢失精度问题。
这是为什么呢?
很多人还知道这样一句话:这种舍入误差的主要原因是浮点数值采用二进制系统表示, 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
针对十进制,1除以3是除不尽的。很好理解,因为我们一直接触的就是十进制,等于0.333333… 很好理解
但是:二进制系统中无法精确地表示分数 1/10。为啥呢。就有点不理解了
《Java核心技术卷》书上也是这么写的。
接下来我们就深究一下为什么!!!
重点这句话:这种舍入误差的主要原因是浮点数值采用二进制系统表示。就是说我们在代码中编写的 System.out.println(4.0 - 3.6); 这样一段代码,
计算过程:
①将十进制的 4.0 转换成 二进制,将十进制的 3.6 转换成二进制;
②使用转换后的二进制,进行减法运算
3.6 转换成二进制,就类似于 1除以3一样,是除不尽。所以 System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999
备注:
十进制的 3.6 转换成二进制为:11.100110011001…(一直循环除不尽),就类似于 1/3 是 0.33333333333…除不尽。所以System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999
十进制的 3.6 转换成二进制为:11.100110011001…
转换过程参考下文⬇⬇⬇ 【4.(小数)十进制转二进制(除不尽)】
此处涉及到进制转换,参考下文:
涉及到:
1.二进制 转 十进制
2.十进制 转 二进制
3.(小数)十进制 转 二进制
接下来,举几个二进制和十进制之间转换的例子 。你就知道为什么【除不尽】了
1.二进制转十进制
2.(整数)十进制转二进制
3.(小数)十进制转二进制(可除尽)
4.(小数)十进制转二进制(除不尽)
总结:
因为 3.6 转成二进制为 11.10011001....,除不尽的
所以 System.out.println(4.0 - 3.6); 就会输出 0.3999999999999999
本片文章就到这里了,希望能够给你带来帮助,也希望您能够多多关注脚本之家的更多内容!
来源:https://blog.csdn.net/lzb348110175/article/details/119957903
![](/images/zang.png)
![](/images/jiucuo.png)
猜你喜欢
Android自定义 WebView浏览器
Kotlin协程Context应用使用示例详解
![](https://img.aspxhome.com/file/2023/7/117107_0s.jpg)
springboot 项目启动后无日志输出直接结束的解决
![](https://img.aspxhome.com/file/2023/0/66240_0s.gif)
Java常用的八种排序算法及代码实现+图解
![](https://img.aspxhome.com/file/2023/2/68132_0s.png)
使用Java程序模拟实现新冠病毒传染效果
![](https://img.aspxhome.com/file/2023/0/129960_0s.png)
用Newtonsoft将json串转为对象的方法(详解)
spring @schedule注解如何动态配置时间间隔
Android Insets相关知识总结
![](https://img.aspxhome.com/file/2023/5/109155_0s.png)
springMVC+ajax实现文件上传且带进度条实例
android接收到蓝牙配对请求时如何点亮屏幕具体实现
使用IDEA异常断点来定位java.lang.ArrayStoreException的问题
![](https://img.aspxhome.com/file/2023/9/75499_0s.png)
Android教你如何发现APP卡顿的实现
Java实现多文件上传功能
Android中Intent机制详解及示例总结(总结篇)
![](https://img.aspxhome.com/file/2023/7/138967_0s.jpg)
springboot项目快速搭建的方法步骤
![](https://img.aspxhome.com/file/2023/4/73074_0s.png)
Android开发返回键明暗点击效果的实例代码
![](https://img.aspxhome.com/file/2023/2/137802_0s.png)
Spring Data JPA中 in 条件参数的传递方式
完美解决安卓jni项目会删除其他so文件的问题
java后台实现支付宝对账功能的示例代码
![](https://img.aspxhome.com/file/2023/3/80283_0s.png)