ホームページ > 記事 > ウェブフロントエンド > javascript_javascriptスキルにおけるfloat演算精度の分析例
javascript_javascriptスキルにおけるfloat演算精度の分析例
- WBOYオリジナル
- 2016-05-16 18:20:491252ブラウズ
誰かが JS の質問をしました:
コードをコピー コードは次のとおりです:
var i = 0.07;
var r = i*100;
alert(r);
情報を確認すると、実際には次のようになります。変数を格納する場合、数値型と浮動小数点型の区別はありませんが、一律に浮動小数点数として格納されます。 JavaScript は、IEEE 754-2008 標準で定義された 64 ビット浮動小数点形式を使用して、IEEE 754 の定義に従います: http://en.wikipedia.org/wiki/IEEE_754-2008
の長さ。 10 進数 64 に対応する整数は 10、小数部の長さは 16 であるため、デフォルトの計算結果は「7.0000000000000001」になります。最後の小数点が 0 の場合、1 を有効桁フラグとして受け取ります。
同様に、1/3 の結果は 0.3333333333333333 になるはずだと想像できます。
では、この値を修正するにはどうすればよいでしょうか?
次のメソッドを使用できます:
1. parseInt
var r4=parseInt(i*100);
2. .round
var r2=Math.round((i*100)*1000)/1000;
上記の 2 つのメソッドはどちらも 7 を取得できます。
完全なテスト コード:
コードをコピー コードは次のとおりです。