Warum sind MySQL-Gleitkommavergleiche ungenau?

Unvollkommenheiten beim MySQL-Gleitkomma-Vergleich

Während sich die Einführung von Gleitkomma-Spalten in ein MySQL-Datenbankschema als nützlich erweist, können Vergleiche mit Gleitkommawerten gelegentlich zu Ergebnissen führen unzuverlässige Ergebnisse.

Zur Demonstration:

Betrachten Sie eine Tabelle mit einer Punktespalte, die Folgendes enthält: die folgenden Werte:

1 - 50.12
2 - 34.57
3 - 12.75
4 - ...(all other values are less than 12.00)

Ausführen der Abfrage:

SELECT COUNT(*) FROM `users` WHERE `points` > "12.75"

gibt unerwartet „3“ zurück.

Es ist eine bekannte Tatsache, dass MySQL-Vergleiche von Gleitkommawerten durchgeführt werden anfällig für Inkonsistenzen ist und dass der dezimale Datentyp hierfür die bessere Wahl ist Vergleiche.

Können Sie weiterhin den Float-Typ verwenden?

Während es allgemein empfohlen wird, den Datentyp DECIMAL für präzise Gleitkommavergleiche zu verwenden, können Sie trotzdem mit dem fortfahren float-Typ, wenn Sie sich seiner potenziellen Fallstricke bewusst sind. Eine solche Gefahr ist die Möglichkeit eines leichten Präzisionsverlusts bei Berechnungen.

Betrachten wir zum Beispiel die folgende Tabelle:

CREATE TABLE a (num float);

INSERT INTO a VALUES (50.12);
INSERT INTO a VALUES (34.57);
INSERT INTO a VALUES (12.75);
INSERT INTO a VALUES (11.22);
INSERT INTO a VALUES (10.46);
INSERT INTO a VALUES (9.35);
INSERT INTO a VALUES (8.55);
INSERT INTO a VALUES (7.23);
INSERT INTO a VALUES (6.53);
INSERT INTO a VALUES (5.15);
INSERT INTO a VALUES (4.01);

Ausführen der Abfrage:

SELECT SUM(num) FROM a;

liefert das Ergebnis:

159.94000005722

Beachten Sie das unerwartete „0,00000005722.“ Solche Rundungsfehler können zu Diskrepanzen bei Vergleichen führen.

Um solche Probleme zu mildern, können Sie die Float-Spalten in einen DECIMAL-Datentyp mit einer bestimmten Genauigkeit und Skalierung konvertieren. Zum Beispiel:

ALTER TABLE a MODIFY num DECIMAL(6,2);

SELECT SUM(num) FROM a;

Das Ergebnis lautet nun:

159.94

Durch die Verwendung des Datentyps DECIMAL können Sie genaue Vergleiche sicherstellen und die Präzisionsprobleme vermeiden, die mit Gleitkommawerten in MySQL verbunden sind .

Das obige ist der detaillierte Inhalt vonWarum sind MySQL-Gleitkommavergleiche ungenau?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!