The principles and solutions behind common misunderstandings about the Number type in JavaScript

This article brings you relevant knowledge about JavaScript, which mainly introduces the relevant knowledge about the number type, including the principles behind common misunderstandings of the number type and solutions, etc., as follows Let's take a look, I hope it will be helpful to everyone.

[Related recommendations: JavaScript video tutorial, web front-end]

In JavaScript, the value is only one Type, that is, the Number type, which is internally represented as a double-precision floating point type, that is, the double type in other languages, so there is actually no integer type in JavaScript. Values ​​are processed as floating point numbers, and the storage method is the same, following IEEE 754 international standard. Therefore, 3 and 3.0 are considered the same value in JavaScript:

3.0 === 3 // true

For integer cases, the range of integers that can be accurately calculated is −253-2^{53}−253 ~ 2532^{53} Between 253, excluding the two endpoints, integers can be used safely as long as they are within this range. In addition to decimal, integers can also be represented by octal or hexadecimal literals. The first digit of the octal literal must be zero, followed by a sequence of octal digits (0 ~ 7). If the value in the literal is out of range , then the leading zeros will be ignored, and the following values ​​will be parsed as decimals. It should be noted that in strict mode, this representation of octal will report an error. ES6 further clarifies that the octal representation should use the prefix 0o, example:

(function(){
  console.log(0o11 === 011)
})()
// true
// 严格模式
(function(){
  'use strict';
  console.log(0o11 === 011)
})()
// Uncaught GyntaxError

The first two digits of the hexadecimal literal value must be 0x, followed by any hexadecimal digit (0 ~ 9 and A ~ F), where A ~ F can be uppercase or lowercase. ES6 has expanded the binary writing method, using the prefix 0b (or 0B).

Earlier we gave a brief introduction to the Number type in the JavaScript runtime, and then we officially started to introduce these common problems, but first we need to understand the data storage method of the Number type:

1. Storage method

The Number type in JavaScript uses double-precision floating point, which is the double type in other languages. Double-precision floating-point numbers use 8 bytes, or 64bit, for storage. Floating-point numbers in modern computers Most of them are stored according to the international standard IEEE 754. The storage process is divided into two steps.

• Convert the floating point number into the corresponding binary number and express it in scientific notation

• Represent the converted number into a value that will actually be stored in the computer through the IEEE 754 standard.

According to the IEEE 754 standard, any binary floating point number V can be expressed as:

For example, 5.0 in decimal is 101.0 written in binary, which is equivalent to 1.01*221.01 * 2^21.01*22, where S=0, M=1.01, and E=2.

IEEE 754 stipulates that for a 32-bit floating point number, the highest digit is the sign bit S, the next 8 bits are the exponent E, and the remaining 23 bits are the significant digit M, as shown in the following figure:

For a 64-bit floating point number, the highest digit is the sign bit S, the next 11 bits are the exponent E, and the remaining 52 bits are the significant digit M, as shown in the following figure:

Note: IEEE754 also has some special regulations for the significant digit M and the exponent E.

As mentioned before, 1

As for the index E, the situation is more complicated. First of all, E is an unsigned exponent, which means that if E is 8 bits, its value range is 0 ~ 255, and if E is 11 bits, its value range is 0 ~ 2047. But we know that E in scientific notation can have negative values, so IEEE 754 stipulates that the real value of E must be subtracted from an intermediate number. For an 8-digit E, this intermediate number is 127, and for an 11-digit E , the middle number is 1023.

For example, the E of 2102^{10}210 is 10, so when it is saved as a 32-bit floating point number, it must be saved as 10 127=137, which is 10001001.

Then the index E can be divided into three situations:

• E不全为0或不全为1：这时，浮点数就采用上面的规则表示，即指数E的计算值减去127（或1023），得到真实值，再将有效数字M前加上第一位的1。

• E全为0：这时，浮点数的指数E等于1 ~ 127（或1 ~ 1023），有效数字M不再加上第一位的1，而是还原成0.xxxxxxx的小数，这样做是为了表示±0，以及接近0的很小的数字。

• E全为1：这时，如果有效数字M全为0，表示±无穷大（正负取决于符号位S）；如果有效数字M不全为0，表示这个数不是一个数（NaN）。

示例：浮点数 9.0 如何用二进制表示？还原成十进制又是多少？

首先，浮点数 9.0 等于二进制的 1001.0，即 1.001∗231.001 *2^31.001∗23

那么，第一位的符号位 S=0，有效数字 M 等于 001 后面再加 20 个 0，凑满 23 位，指数 E 等于 3+127=130，即 10000010。

所以，写成二进制形式，应该是 S+E+M，即0 10000010 001 0000 0000 0000 0000 0000。这个 32 位的二进制数，还原成十进制，正是 1091567616。

注：虽然在 JavaScript 中无论是小数还是整数都是按照64位的浮点数形式存储，但是进行整数运算会自动转换为32位的有符号整数，例如位运算，有符号整数使用31位表示整数的数值，用第32位表示整数的符号，数值范围是−231-2^{31}−231 ~ 2312^{31}231。

二、浮点数运算的精度丢失

问题缘由

众所周知在 JavaScript 中 0.1+0.2 不等于 0.3，实际上所有浮点数值存储遵循 IEEE 754 标准的编程语言中都会存在这个问题，这是因为计算机中小数的存储先是转换成二进制进行存储的，而 0.1、0.2 转换成二进制分别为：

(0.1)10 => (00011001100110011001(1001)...)2 (0.2)10 => (00110011001100110011(0011)...)2

可以发现，0.1 和 0.2 转成二进制之后都是一个无限循环的数，前面提到尾数位只能存储最多 53 位有效数字，这时候就必须来进行四舍五入了，而这个取舍的规则就是在 IEEE 754 中定义的，0.1 最终能被存储的有效数字是

0001(1001)(1001)(1001)(1001)(1001)(1001)(1001)(1001)(1001)(1001)(1001)(1001)101 + (0011)(0011)(0011)(0011)(0011)(0011)(0011)(0011)(0011)(0011)(0011)(0011)(0011)01 = 0100(1100)(1100)(1100)(1100)(1100)(1100)(1100)(1100)(1100)(1100)(1100)(1100)111

最终的这个二进制数转换成十进制的就是 0.30000000000000004 ，这儿需要注意，53 位的存储位指的是能存 53 位有效数字，因此前置的 0 不算，要往后再取到  53 位有效数字为止。

因此，精度丢失的问题实际上用一句话概括就是计算机中用二进制存储小数，而大部分小数转成二进制后都是无限循环的值，因此存在取舍问题，也就是精度丢失。

解决办法

ES6 在 Number 对象上新增了一个极小常量：Number.EPSILON，值为 2.220446049250313e-16，引入这么一个常量就是为了为浮点数计算设置一个误差范围，如果这个误差小于 Number.EPSILON 我们就认为得到了准确结果。

三、大整数的运算精度丢失及溢出

问题缘由

在介绍问题的具体缘由之前我想先给大家介绍一下所谓最大安全整数范围以及最大数字绝对值的范围是如何得到的？

JavaScript 能够表示的数字的绝对值范围是 5e-324 ~ 1.7976931348623157e+308，这两个取值可以通过 Number.MIN_VALUE 和 Number.MAX_VALUE 这两个字段来表示，如果某次计算的结果得到了一个超出 JavaScript 数值范围的，那么这个数值会自动被转换为特殊的 Infinity 值，具体来说，如果这个数是负数，则会被转换成 -Infinity（负无穷），如果这个数值是正数，则会被转换成 Infinity（正无穷）。

示例：

console.log(Number.MAX_VALUE) // 1.7976931348623157e+308
console.log(Number.MIN_VALUE) // 5e-324
console.log(Number.MAX_VALUE + Number.MAX_VALUE) // Infinity

那么这个取值范围是如何得到的呢？

前面说到 JavaScript 中数值的保存采用的是双精度浮点型，遵循 IEEE 754 标准，在 ECMAScript 规范中规定指数 E 的范围在 -1074 ~ 971，双精度浮点型中有效数字 M 的存储位为52，但是有效数字 M 由于可以省略第一位1，节省一个存储位，因此有效数字M可以存储的范围为 1 ~ 2532^{53}253，因此 JavaScript 中 Number 能表示的最大数字绝对值范围是 2−10742^{-1074}2−1074 ~ 253+9712^{53+971}253+971。

注：通过 Number.isFinite()（ES6引入）和 isFinite() 方法可以判断一个数值是不是有穷的，即如果参数位于最小与最大数值之间时会返回 true。

让我们回归主题，为什么会出现大整数的运算精度丢失及溢出呢？

JavaScript 中最大安全整数的范围是 −253-2^{53}−253 ~ 2532^{53}253，不包括两个端点，即 -9007199254740991 ~ 9007199254740991，可以通过 Number.MIN_SAFE_INTEGER 和 Number.MAX_SAFE_INTEGER 字段查询，超出这个范围的整数计算都是不准确的，例如：

console.log(Number.MAX_SAFE_INTEGER) // 9007199254740991
console.log(Number.MIN_SAFE_INTEGER) // -9007199254740991
console.log(9007199254740991 + 2) // 9007199254740992

最大安全整数9007199254740991对应的二进制数如图：

53位有效数字都存储满了之后，想要表示更大的数字，就只能往指数数加一位，这时候尾数因为没有多余的存储空间，因此只能补0。

如图所示，在指数位为53的情况下，最后一位尾数位为0的数字可以被精确表示，而最后一位尾数位为1的数字都不能被精确表示。也就是可以被精确表示和不能被精确表示的比例是1:1。

同理，当指数为54的时候，只有最后两位尾数为00的可以被精确表示，也就是可以被精确表示和不能被精确表示的比例是1:3，当有效位数达到 x(x>53) 的时候，可以被精确表示和不能被精确表示的比例将是1 : 2^(x-53)^ - 1。

可以预见的是，在指数越来越高的时候，这个指数会成指数增长，因此在 Number.MAX_SAFE_INTEGER ~ Number.MAX_VALUE 之间可以被精确表示的整数可以说是凤毛麟角。

之所以会有最大安全整数这个概念，本质上还是因为数字类型在计算机中的存储结构。在尾数位不够补零之后，只要是多余的尾数为1所对应的整数都不能被精确表示。

可以发现，不管是浮点数计算的计算结果错误和大整数的计算结果错误，最终都可以归结到JS的精度只有53位（尾数只能存储53位的有效数字）。

解决办法

那么我们在日常工作中碰到这两个问题该如何解决呢？

大而全的解决方案就是使用 mathjs，看一下 mathjs 的输出：

math.config({
    number: 'BigNumber',      
    precision: 64 
});
console.log(math.format(math.eval('0.1 + 0.2'))); // '0.3'
console.log(math.format(math.eval('0.23 * 0.34 * 0.92'))); // '0.071944'
console.log(math.format(math.eval('9007199254740991 + 2'))); 
// '9.007199254740993e+15'

【相关推荐：JavaScript视频教程、web前端】

The above is the detailed content of The principles and solutions behind common misunderstandings about the Number type in JavaScript. For more information, please follow other related articles on the PHP Chinese website!