problems-with-float.md 3.5 KB
Newer Older
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75
#### B.3.4.8 浮点值问题

浮点数有时会引起混淆,因为它们是近似值而不是存储为精确值。SQL 语句中写入的浮点值可能与内部表示的值不同。尝试在比较中将浮点值视为精确可能会导致问题。它们还受平台或实现依赖关系的影响。这[`漂浮`](floating-point-types.html)[`双倍的`](floating-point-types.html)数据类型会受到这些问题的影响。为了[`十进制`](fixed-point-types.html)列,MySQL 执行精度为 65 位十进制数字的操作,这应该可以解决最常见的不准确问题。

以下示例使用[`双倍的`](floating-point-types.html)演示使用浮点运算完成的计算如何受到浮点错误的影响。

```
mysql> CREATE TABLE t1 (i INT, d1 DOUBLE, d2 DOUBLE);
mysql> INSERT INTO t1 VALUES (1, 101.40, 21.40), (1, -80.00, 0.00),
    -> (2, 0.00, 0.00), (2, -13.20, 0.00), (2, 59.60, 46.40),
    -> (2, 30.40, 30.40), (3, 37.00, 7.40), (3, -29.60, 0.00),
    -> (4, 60.00, 15.40), (4, -10.60, 0.00), (4, -34.00, 0.00),
    -> (5, 33.00, 0.00), (5, -25.80, 0.00), (5, 0.00, 7.20),
    -> (6, 0.00, 0.00), (6, -51.40, 0.00);

mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b
    -> FROM t1 GROUP BY i HAVING a <> b;

+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    1 |  21.4 | 21.4 |
|    2 |  76.8 | 76.8 |
|    3 |   7.4 |  7.4 |
|    4 |  15.4 | 15.4 |
|    5 |   7.2 |  7.2 |
|    6 | -51.4 |    0 |
+------+-------+------+
```

结果是正确的。虽然前 5 条记录看起来不应该满足比较(`一种``b`看起来没有什么不同),他们可能会这样做,因为数字之间的差异显示在小数点后十位左右,具体取决于计算机体系结构或编译器版本或优化级别等因素。例如,不同的 CPU 可能会以不同的方式评估浮点数。

如果列`d1``d2`被定义为[`十进制`](fixed-point-types.html)而不是[`双倍的`](floating-point-types.html),结果[`选择`](select.html)查询将只包含一行——上面显示的最后一行。

进行浮点数比较的正确方法是首先确定数字之间差异的可接受容差,然后与容差值进行比较。例如,如果我们同意如果浮点数在万分之一 (0.0001) 的精度内相同,则应将其视为相同,则应编写比较以发现大于容差值的差异:

```
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
    -> GROUP BY i HAVING ABS(a - b) > 0.0001;
+------+-------+------+
| i    | a     | b    |
+------+-------+------+
|    6 | -51.4 |    0 |
+------+-------+------+
1 row in set (0.00 sec)
```

相反,要获得数字相同的行,测试应该在容差值内找到差异:

```
mysql> SELECT i, SUM(d1) AS a, SUM(d2) AS b FROM t1
    -> GROUP BY i HAVING ABS(a - b) <= 0.0001;
+------+------+------+
| i    | a    | b    |
+------+------+------+
|    1 | 21.4 | 21.4 |
|    2 | 76.8 | 76.8 |
|    3 |  7.4 |  7.4 |
|    4 | 15.4 | 15.4 |
|    5 |  7.2 |  7.2 |
+------+------+------+
5 rows in set (0.03 sec)
```

浮点值受平台或实现依赖性的影响。假设您执行以下语句:

```
CREATE TABLE t1(c1 FLOAT(53,0), c2 FLOAT(53,0));
INSERT INTO t1 VALUES('1e+52','-1e+52');
SELECT * FROM t1;
```

在某些平台上,`选择`语句返回`信息``-inf`.在其他人身上,它返回`0``-0`.

上述问题的一个含义是,如果您尝试通过转储表内容来创建副本[**mysql转储**](mysqldump.html)在源上并将转储文件重新加载到副本中,包含浮点列的表可能在两个主机之间有所不同。