快速解决 MySQL中与浮点比较有关的问题

作者:846281 来源:赛迪网 时间:2008-11-27 16:28:00 

注意,下述部分主要与DOUBLE和FLOAT列相关,原因在于浮点数的不准确本质。MySQL使用64位十进制数值的精度执行DECIMAL操作,当处理DECIMAL列时,应能解决大多数常见的不准确问题。

浮点数有时会导致混淆,这是因为它们无法以准确值保存在计算机体系结构中。你在屏幕上所看到的值通常不是数值的准确值。对于FLOAT和DOUBLE列类型,情况就是如此。DECIMAL列能保存具有准确精度的值,这是因为它们是由字符串表示的。

在下面的示例中,介绍了使用DOUBLE时的问题:


mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
-> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
-> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
-> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
-> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
-> (6, 0.00, 0.00), (6, -51.40, 0.00);
 
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
-> FROM t1 GROUP BY i HAVING a <> b;
 
+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    1 |  21.4 | 21.4 |
|    2 |  76.8 | 76.8 |
|    3 |   7.4 |  7.4 |
|    4 |  15.4 | 15.4 |
|    5 |   7.2 |  7.2 |
|    6 | -51.4 |    0 |
+------+-------+------+

结果是正确的。尽管前5个记录看上去不应能进行比较测试(a和b的值看上去没有什么不同),但它们能进行比较,这是因为显示的数值间的差异在十分位左右,具体情况取决于计算机的体系结构。

如果列d1和d2定义为DECIMAL而不是DOUBLE,SELECT查询的结果仅包含1行,即上面显示的最后1行。

标签:
0
投稿

猜你喜欢

  • Python二叉树的遍历操作示例【前序遍历,中序遍历,后序遍历,层序遍历】

    2022-07-06 16:40:59
  • TensorFlow2.1.0安装过程中setuptools、wrapt等相关错误指南

    2023-07-30 10:28:08
  • Go简单实现协程池的实现示例

    2024-02-19 07:35:16
  • vant之van-list的使用及踩坑记录

    2023-07-02 16:48:41
  • Java操作MongoDB数据库方法详解

    2024-01-19 11:37:38
  • python离散建模之感知器学习算法

    2022-06-10 04:49:47
  • Python datetime时间格式化去掉前导0

    2022-03-15 11:43:15
  • 最新Python APScheduler 定时任务详解

    2021-05-03 21:58:53
  • php利用cookies实现购物车的方法

    2023-07-23 08:32:37
  • 在ubuntu中重置mysql服务器root密码的方法

    2024-01-24 19:40:48
  • python实现ip查询示例

    2021-07-07 20:04:32
  • 用Javascript 获取页面元素的位置的代码

    2024-04-18 09:33:31
  • linux下导入、导出mysql数据库命令的实现方法

    2024-01-23 15:55:33
  • PHP中trait的使用和同时引入多个trait时同名方法冲突的处理方法

    2023-06-16 23:13:52
  • php实现的微信分享到朋友圈并记录分享次数功能

    2023-10-17 04:32:14
  • Python正确调用 jar 包加密得到加密值的操作方法

    2021-02-26 12:12:19
  • Pygame改编飞机大战制作兔子接月饼游戏

    2023-04-09 02:57:22
  • 总结Python编程中函数的使用要点

    2021-03-15 01:49:52
  • FckEditor 中文配置手册

    2022-05-20 22:23:13
  • python利用高阶函数实现剪枝函数

    2022-04-17 11:21:44
  • asp之家 网络编程 m.aspxhome.com