浅谈c# 浮点数计算

作者:大稳·杨 时间:2023-08-04 22:10:09 

给大家看个计算题,看看大家的算术能力。

0.1 +0.1 +0.1 - 0.3 等于几?

大家可能会说这么简单的问题,是不是看不起我?肯定等于0啊。

如果大家直接算的是没有问题的,但是如果用计算机呢?

见证奇迹的时刻到了,看代码:


void Main()
{
 var f = 0.1 +0.1 +0.1 -0.3;
 Console.WriteLine("f=={0}",f);
}

运行结果:

浅谈c# 浮点数计算

这是因为计算机的精度的问题,在计算机的内部存储和运算的精度缺失等问题,我解释的可能不太明白,不过,大家可以用下面的方案进行解决:


void Main()
{
 //var f = 0.1 +0.1 +0.1 -0.3;
 //Console.WriteLine("f=={0}",f);

var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3);
 Console.WriteLine("f1 == {0}",f1);
}

运行结果:

浅谈c# 浮点数计算

这样就是正常的运算结果了。

啦啦啦!!!!

来源:http://www.cnblogs.com/dawenyang/p/7553728.html

标签:c#,浮点数
0
投稿

猜你喜欢

  • Android编程实现将应用强制安装到手机内存的方法

    2022-09-09 23:02:08
  • android自动化测试知识点总结

    2022-12-28 03:51:50
  • 基于Java HashMap的死循环的启示详解

    2021-08-15 20:01:16
  • C#修改及重置电脑密码DirectoryEntry实现方法

    2021-12-03 05:08:16
  • Android RadioButton单选框的使用方法

    2021-10-02 14:37:20
  • springboot多模块化整合mybatis,mapper自动注入失败问题及解决

    2022-02-20 08:06:29
  • android如何获取联系人所有信息

    2021-10-24 13:24:41
  • 详解5种Java中常见限流算法

    2023-02-01 16:14:31
  • java实现文件上传下载和图片压缩代码示例

    2023-01-02 17:49:30
  • android桌面悬浮窗显示录屏时间控制效果

    2022-04-21 14:54:12
  • Android自定义View实现拖动自动吸边效果

    2021-11-18 03:00:38
  • FFmpeg Principle分析Out put File 数据结构

    2023-02-17 08:26:49
  • Java多线程(单例模式,堵塞队列,定时器)详解

    2022-09-18 16:22:20
  • SpringBoot Security安装配置及Thymeleaf整合

    2023-11-27 16:18:41
  • springboot +rabbitmq+redis实现秒杀示例

    2022-04-21 02:29:28
  • Android百度地图应用之MapFragment的使用

    2022-07-07 21:16:37
  • Java环境配置与编译运行详解

    2022-10-02 12:42:24
  • java 二叉查找树实例代码

    2022-07-23 22:54:28
  • 教你怎么用idea创建web项目

    2021-12-23 14:45:16
  • Java设计模式中的命令模式

    2023-11-20 04:26:46
  • asp之家 软件编程 m.aspxhome.com