JS 부동 소수점 계산 문제에 대한 자세한 설명

Analytic

JavaScript에는 Number 숫자 유형이 하나만 있으며 JavaScript의 모든 숫자는 IEEE-754 표준 형식으로 표시됩니다. 부동 소수점 숫자의 정밀도 문제는 JavaScript에만 국한되지 않습니다. 일부 소수는 이진수로 표현되는 무한한 숫자를 갖기 때문입니다. Number ，而且在Javascript中所有的数字都是以IEEE-754标准格式表示的。 浮点数的精度问题不是JavaScript特有的，因为有些小数以二进制表示位数是无穷的：

0.1              0.0001100110011001100110011001100110011001100110011001101
0.2              0.001100110011001100110011001100110011001100110011001101
0.3              0.010011001100110011001100110011001100110011001100110011
0.5              0.1
0.6              0.10011001100110011001100110011001100110011001100110011

所以比如 1.1

1.09999999999999999

예를 들어 1.1은 프로그램이 실제로 '1.1'을 나타낼 수 없습니다. 어느 정도까지만 정확할 수 있으며 이는 필연적으로 정확성을 떨어뜨립니다.

 输入               输出1.0-0.9 == 0.1     False1.0-0.8 == 0.2     False1.0-0.7 == 0.3     False1.0-0.6 == 0.4     True1.0-0.5 == 0.5     True1.0-0.4 == 0.6     True1.0-0.3 == 0.7     True1.0-0.2 == 0.8     True1.0-0.1 == 0.9     True

문제는 JavaScript에서 더 복잡합니다. 다음은 Chrome의 일부 테스트 데이터입니다.

(1.0-0.9).toFixed(digits)     // toFixed() 精度参数须在 0 与20 之间(1.0-0.9).toFixed(10)== 0.1   // 结果为True(1.0-0.8).toFixed(10)== 0.2   // 结果为True(1.0-0.7).toFixed(10)== 0.3   // 结果为True(11.0-11.8).toFixed(10) == -0.8   // 结果为TrueparseFloat((1.0-0.9).toFixed(10)) === 0.1   // 结果为TrueparseFloat((1.0-0.8).toFixed(10)) === 0.2   // 结果为TrueparseFloat((1.0-0.7).toFixed(10)) === 0.3   // 结果为TrueparseFloat((11.0-11.8).toFixed(10)) === -0.8   // 结果为True

Solution

그래서 어떻게 해야 할까요? ` 1.0-0.9 != 0.1 `?에서 이러한 유형의 버그가 아닌 문제를 피하려면? 다음은 정밀도 감소 과정이 항상 자동으로 반올림되기 때문에 부동 소수점 연산 결과를 판단하기 전에 계산 결과의 정확도를 낮추기 위해 일반적으로 사용되는 솔루션입니다. 으아악

위 내용은 JS 부동 소수점 계산 문제에 대한 자세한 설명의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!