Lassen Sie uns über die Genauigkeit der Javascript-Division sprechen

Für viele Programmierer scheinen die numerischen Typen von JavaScript ein sehr einfacher Teil zu sein. Tatsächlich ist die Genauigkeit der JavaScript-Aufteilung jedoch ein seit langem bestehendes Problem unter Entwicklern.

Dieses Problem ergibt sich einerseits aus dem Datentypdesign von JavaScript und andererseits aus den Kompromissen, die ECMAScript eingeht, um verschiedene Sondersituationen zu bewältigen. Konkret definiert die ECMAScript-Spezifikation zwei Zahlentypen: Ganzzahlen und Gleitkommazahlen. Gleitkommazahlen werden in Gleitkommazahlen mit einfacher Genauigkeit (dh 32-Bit-Gleitkommazahlen) und Gleitkommazahlen mit doppelter Genauigkeit (dh 64-Bit-Gleitkommazahlen) unterteilt. In JavaScript sind Gleitkommazahlen vom Typ Zahl und der einzige Unterschied besteht in der Anzahl der Ziffern, die sie belegen.

Schauen wir uns zum Beispiel eine einfache Divisionsrechnung an:

console.log(1/3); // 输出 0.3333333333333333

Das sieht gut aus, aber wenn wir es erweitern:

console.log(1/3 + 1/3 + 1/3); // 输出 0.9999999999999999

Das Ergebnis ist offensichtlich nicht das, was wir erwartet haben. Dies liegt daran, dass JavaScript beim Berechnen Gleitkommazahlen mit doppelter Genauigkeit verwendet und die Genauigkeitsgrenze von Gleitkommazahlen mit doppelter Genauigkeit begrenzt ist. Rundungsfehler treten insbesondere dann auf, wenn JavaScript mit Zahlen arbeitet, die nicht genau als Gleitkommazahlen mit doppelter Genauigkeit dargestellt werden können. Dieses Problem beeinträchtigt nicht nur den Vergleich von Zahlenwerten, sondern wirkt sich auch negativ auf die Korrektheit der Datenverarbeitung aus.

Wie kann man dieses Problem vermeiden?

In der tatsächlichen Entwicklung können wir einige Bibliotheken zur Lösung von Berechnungsproblemen verwenden, z. B. BigDecimal.js. Eine solche Bibliothek eignet sich zur Durchführung von Gleitkommaoperationen für große Zahlen und kann genauere Ergebnisse erzielen. Bei seiner Verwendung muss jedoch auch die Balance zwischen Berechnungsgenauigkeit und Speicherverbrauch abgewogen werden.

Darüber hinaus besteht eine weitere gängige Lösung darin, Gleitkommazahlen zur Berechnung in Ganzzahlen umzuwandeln und die Ergebnisse schließlich wieder zurückzukonvertieren. Zum Beispiel:

// 令计算精度到小数点后 2 位
var precision = 100;
console.log(Math.round((1/3) * precision + (1/3) * precision + (1/3) * precision) / precision); // 输出 0.33

Diese Methode kann das Präzisionsproblem von Gleitkommazahlenoperationen bis zu einem gewissen Grad vermeiden, der Präzisionswert muss jedoch entsprechend der spezifischen Situation ausgewählt werden.

Darüber hinaus können wir auch die neue Number.EPSILON-Konstante und die toFixed()-Methode in ES6 verwenden, um das Präzisionsproblem von JavaScript auszugleichen.

console.log(Math.abs((1/3 + 1/3 + 1/3) - 1) < Number.EPSILON); // 输出 true
console.log((1/3 + 1/3 + 1/3).toFixed(2)); // 输出 "1.00"

Beiden oben genannten Methoden müssen auf ihren anwendbaren Umfang und ihre Einschränkungen geachtet werden.

Im Allgemeinen ist das Problem der Divisionsgenauigkeit in JavaScript weit verbreitet und schwer zu lösen. Um die Details richtig zu machen, sind einige mathematische Kenntnisse und ein tiefes Verständnis der JavaScript-Sprache erforderlich. Ich hoffe, dass dieser Artikel den Lesern helfen kann, Probleme mit der Genauigkeit der JavaScript-Division besser zu vermeiden und die Qualität ihres Codes zu verbessern.

Das obige ist der detaillierte Inhalt vonLassen Sie uns über die Genauigkeit der Javascript-Division sprechen. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!