ホームページ  >  記事  >  ウェブフロントエンド  >  js で 0.1 + 0.2 != 0.3 を解析する

js で 0.1 + 0.2 != 0.3 を解析する

小云云
小云云オリジナル
2018-02-23 10:27:502159ブラウズ

JavaScript で保存される数値は、IEEE754 64 ビット倍精度浮動小数点数を使用します

コンピューター内では 64 ビットとして保存されます
1 11 52
1: 符号ビット 0 正の数 1 負の数
11: 判定に使用される指数ビット範囲
52: 仮数ビットは精度を決定するために使用されます
10 進数表記に変換される

num = (-1)^s * (1.f) * 2^E
E = e - 1023
s:符号位
e:指数位
f:尾数位
1023偏正值 使得指数位真实取值为[-1023, 1024] 而非 [0, 2047] 目的是为了方便比较大小
实际指数值 = 阶码 - 偏正值
阶码 = 指数的移码 - 1
移码与补码符号为互为取反
举例:
如果指数位实际值为-1
原码:100 0000 0001
反码:111 1111 1110
补码:111 1111 1111
移码:011 1111 1111
阶码:011 1111 1110 = 1022
也可以通过
阶码 = 指数 + 偏正值 = -1 + 1023 = 1022 = 011 1111 1110来计算得到

すべての 0 とすべての 1 の指数ビットには、後述する特別な意味があり、+-0 を表すために使用されます+-∞

特別な値

js で 0.1 + 0.2 != 0.3 を解析する

機械精度
del = 2^-52

次に、0.1 + 0.2 = 0.30000000000000004となる理由を説明しましょう。
最初に 0.1 のバイナリを計算します
0.1 *2 = 0
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
....
したがって、0.1 のバイナリは 0.0001100110011001100... ループとなり、
は 2^-4 * 1.100110011001100...
合計 52 個の予約桁があるため、左端の整数ビット 1 を除くと、
したがって、コンピューターに保存される最終値は次のようになります: 2^-4 * 1.100 11001100 11001100 11001100 11001100 11001100 11001100 1

同様に 0.2
0.2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
0.2 * 2 = 0
0.4 * 2 = 0
0.8 * 2 = 1
0.6 * 2 = 1
...
つまり、0.2のバイナリは0.001100110011001100...ループ、
は 2^-3 * 1.100110011001100... に変換できます。最終的にコンピューターに保存する最も簡単な値は次のとおりです: 2^-3 * 1.100 11001100 11001100 11001100 11001100 11001100 1
2
0.000 1100 11001100 11001100 11001100 11001100 11001100 11001100 1
+
0.001100 11001100 11001100 11001100 11001100 11001100 11001100 1
= 0.0 10011001 10011001 0011001 10011001 10011001 10011001 10011
≈ 0.30000000000000004



以上がjs で 0.1 + 0.2 != 0.3 を解析するの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。