Parlons de la précision des divisions javascript

Pour de nombreux programmeurs, les types numériques de JavaScript semblent être un élément très simple. Mais en fait, la précision des divisions JavaScript est un problème de longue date parmi les développeurs.

Ce problème découle de la conception du type de données de JavaScript d'une part, et des compromis faits par ECMAScript pour gérer diverses situations particulières d'autre part. Plus précisément, la spécification ECMAScript définit deux types de nombres : les nombres entiers et les nombres à virgule flottante. Les nombres à virgule flottante sont divisés en nombres à virgule flottante simple précision (c'est-à-dire nombres à virgule flottante de 32 bits) et nombres à virgule flottante double précision (c'est-à-dire nombres à virgule flottante de 64 bits). En JavaScript, les nombres à virgule flottante sont de type Number et la seule différence réside dans le nombre de chiffres qu'ils occupent.

Par exemple, regardons un simple calcul de division :

console.log(1/3); // 输出 0.3333333333333333

Cela semble bien, mais si nous l'étendons :

console.log(1/3 + 1/3 + 1/3); // 输出 0.9999999999999999

Le résultat n'est évidemment pas celui auquel nous nous attendions. En effet, JavaScript utilise des nombres à virgule flottante double précision lors du calcul et la limite de précision des nombres à virgule flottante double précision est limitée. En particulier, des erreurs d'arrondi se produisent lorsque JavaScript opère sur des nombres qui ne peuvent pas être représentés avec précision sous forme de nombres à virgule flottante double précision. Ce problème affectera non seulement la comparaison des valeurs numériques, mais aura également un impact négatif sur l'exactitude du traitement des données.

Alors comment éviter ce problème ?

Dans le développement réel, nous pouvons choisir d'utiliser certaines bibliothèques pour gérer des problèmes de calcul, comme BigDecimal.js. Une telle bibliothèque convient pour effectuer des opérations en virgule flottante sur de grands nombres et peut obtenir des résultats plus précis. Cependant, son utilisation doit également peser la balance entre la précision des calculs et l’utilisation de la mémoire.

En outre, une autre solution courante consiste à convertir les nombres à virgule flottante en nombres entiers pour le calcul, puis à reconvertir les résultats. Par exemple :

// 令计算精度到小数点后 2 位
var precision = 100;
console.log(Math.round((1/3) * precision + (1/3) * precision + (1/3) * precision) / precision); // 输出 0.33

Cette méthode peut éviter dans une certaine mesure le problème de précision des opérations sur les nombres à virgule flottante, mais la valeur de précision doit être sélectionnée en fonction de la situation spécifique.

De plus, nous pouvons également utiliser la nouvelle constante Number.EPSILON et la méthode toFixed() dans ES6 pour compenser le problème de précision de JavaScript.

console.log(Math.abs((1/3 + 1/3 + 1/3) - 1) < Number.EPSILON); // 输出 true
console.log((1/3 + 1/3 + 1/3).toFixed(2)); // 输出 "1.00"

Les deux méthodes ci-dessus doivent faire attention à leur portée et leurs limites applicables.

En général, le problème de précision de division en JavaScript est courant et difficile à résoudre. Obtenir les bons détails nécessite une certaine connaissance des opérations mathématiques et une compréhension approfondie du langage JavaScript. J'espère que cet article pourra aider les lecteurs à mieux éviter les problèmes de précision de la division JavaScript et à améliorer la qualité de leur code.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!