浅谈c# 浮点数计算
作者:大稳·杨 时间:2023-08-04 22:10:09
给大家看个计算题,看看大家的算术能力。
0.1 +0.1 +0.1 - 0.3 等于几?
大家可能会说这么简单的问题,是不是看不起我?肯定等于0啊。
如果大家直接算的是没有问题的,但是如果用计算机呢?
见证奇迹的时刻到了,看代码:
void Main()
{
var f = 0.1 +0.1 +0.1 -0.3;
Console.WriteLine("f=={0}",f);
}
运行结果:
这是因为计算机的精度的问题,在计算机的内部存储和运算的精度缺失等问题,我解释的可能不太明白,不过,大家可以用下面的方案进行解决:
void Main()
{
//var f = 0.1 +0.1 +0.1 -0.3;
//Console.WriteLine("f=={0}",f);
var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3);
Console.WriteLine("f1 == {0}",f1);
}
运行结果:
这样就是正常的运算结果了。
啦啦啦!!!!
来源:http://www.cnblogs.com/dawenyang/p/7553728.html
标签:c#,浮点数
0
投稿
猜你喜欢
Android编程实现将应用强制安装到手机内存的方法
2022-09-09 23:02:08
android自动化测试知识点总结
2022-12-28 03:51:50
基于Java HashMap的死循环的启示详解
2021-08-15 20:01:16
C#修改及重置电脑密码DirectoryEntry实现方法
2021-12-03 05:08:16
Android RadioButton单选框的使用方法
2021-10-02 14:37:20
springboot多模块化整合mybatis,mapper自动注入失败问题及解决
2022-02-20 08:06:29
android如何获取联系人所有信息
2021-10-24 13:24:41
详解5种Java中常见限流算法
2023-02-01 16:14:31
java实现文件上传下载和图片压缩代码示例
2023-01-02 17:49:30
android桌面悬浮窗显示录屏时间控制效果
2022-04-21 14:54:12
Android自定义View实现拖动自动吸边效果
2021-11-18 03:00:38
FFmpeg Principle分析Out put File 数据结构
2023-02-17 08:26:49
Java多线程(单例模式,堵塞队列,定时器)详解
2022-09-18 16:22:20
SpringBoot Security安装配置及Thymeleaf整合
2023-11-27 16:18:41
springboot +rabbitmq+redis实现秒杀示例
2022-04-21 02:29:28
Android百度地图应用之MapFragment的使用
2022-07-07 21:16:37
Java环境配置与编译运行详解
2022-10-02 12:42:24
java 二叉查找树实例代码
2022-07-23 22:54:28
教你怎么用idea创建web项目
2021-12-23 14:45:16
Java设计模式中的命令模式
2023-11-20 04:26:46