IT猫扑网 | 论坛社区 | 网址导航 | 网管博客 | 软件下载 | 下载中心 | 小游戏 | 图片频道 | 免费电影 | 猫扑小说 | 免费代理 | 站长工具 | 登陆 | 会员注册 | 收藏本站 
网管联盟
网管首页 操作系统 路由交换 服务器 数据库 网络安全 系统集成 网络编程 IT认证考试 热门排行 视频教程 杀毒更新 下载 论坛 高级搜索 网站地图
 当前位置:IT猫扑网|网管联盟 > 数据库 > MYSQL > 快速解决 MySQL中与浮点比较有关的问题

快速解决 MySQL中与浮点比较有关的问题

更新时间:2008-11-28  作者:网络转载  来源:赛迪网  点击:载入中...   推荐  挑错  收藏  打印  关闭

注意,下述部分主要与DOUBLE和FLOAT列相关,原因在于浮点数的不准确本质。MySQL使用64位十进制数值的精度执行DECIMAL操作,当处理DECIMAL列时,应能解决大多数常见的不准确问题。

浮点数有时会导致混淆,这是因为它们无法以准确值保存在计算机体系结构中。你在屏幕上所看到的值通常不是数值的准确值。对于FLOAT和DOUBLE列类型,情况就是如此。DECIMAL列能保存具有准确精度的值,这是因为它们是由字符串表示的。

在下面的示例中,介绍了使用DOUBLE时的问题:

以下为引用的内容:
mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
-> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
-> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
-> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
-> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
-> (6, 0.00, 0.00), (6, -51.40, 0.00);
 
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
-> FROM t1 GROUP BY i HAVING a <> b;
 
+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    1 |  21.4 | 21.4 |
|    2 |  76.8 | 76.8 |
|    3 |   7.4 |  7.4 |
|    4 |  15.4 | 15.4 |
|    5 |   7.2 |  7.2 |
|    6 | -51.4 |    0 |
+------+-------+------+

结果是正确的。尽管前5个记录看上去不应能进行比较测试(a和b的值看上去没有什么不同),但它们能进行比较,这是因为显示的数值间的差异在十分位左右,具体情况取决于计算机的体系结构。

如果列d1和d2定义为DECIMAL而不是DOUBLE,SELECT查询的结果仅包含1行,即上面显示的最后1行。


 上一篇:细化解析:Mysql数据库对文件操作的封装
 下一篇:解析:MySQL对“服务器端光标”的限制
快速解决 MySQL中与浮点比较有关的问题 评论:共有 位网友发表了评论 查看所有评论
评论:请自觉遵守互联网相关政策法规,评论不得超过250字。

用户名: 密码: 匿名? 注册用户
内容搜索:
栏目列表:
热门关键字:
赞助广告:
热点关注:
网管论坛交流: