ホームページ  >  記事  >  ウェブフロントエンド  >  js_javascript スキルにおける浮動小数点演算の問題の簡単な分析

js_javascript スキルにおける浮動小数点演算の問題の簡単な分析

WBOY
WBOYオリジナル
2016-05-16 17:05:18962ブラウズ

js では浮動小数点演算はどのように実行されますか?

例: var a=0.69;

var c=a*10;

と書いて 6.9 を取得したいです。

alert(c); 結果は: 6.8999999999999995

オンラインで検索したところ、これは JS 浮動小数点計算のバグであり、解決策を見つけたというネチズンもいます。

方法 1: js カスタム関数を使用する

コードをコピー コードとして以下:

<スクリプト>

//正確な加算結果を取得するために使用される加算関数
//説明: JavaScript の加算結果にはエラーが含まれます。これは、2 つの浮動小数点数を加算するときにより顕著になります。この関数は、より正確な加算結果を返します。
//呼び出し: accAdd(arg1,arg2)
//戻り値: arg1 と arg2 の正確な結果
function accAdd(arg1,arg2){
var r1,r2,m; 🎜>try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(". ")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m arg2*m)/ m
}
//呼び出しをより便利にするために、Number 型に add メソッドを追加します。
Number.prototype.add = function (arg){
return accAdd(arg,this)
}

//正確な加算結果を取得するために使用される加算関数

//説明: JavaScript の加算結果にはエラーが含まれます。これは、2 つの浮動小数点数を加算するときにより顕著になります。この関数は、より正確な加算結果を返します。
//呼び出し: accAdd(arg1,arg2)
//戻り値: arg1 と arg2 の正確な結果
function accSub(arg1,arg2){
var r1,r2,m,n ;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split( ".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//deeka による最終変更
//動的制御精度長
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}

//正確な除算結果を取得するために使用される除算関数

//説明: JavaScript の除算結果にはエラーが発生します。これは、2 つの浮動小数点数を除算する場合にさらに顕著になります。この関数は、より正確な除算結果を返します。
//呼び出し: accDiv(arg1,arg2)
//戻り値: arg1 を arg2 で除算した正確な結果
function accDiv(arg1,arg2){
var t1=0,t2= 0 ,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString(). split (".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//呼び出しをより便利にするために、Div メソッドを Number 型に追加します。
Number.prototype.div = function (arg){
return accDiv(this, arg)
}

//正確な乗算結果を取得するために使用される乗算関数

//説明: JavaScript の乗算結果にはエラーが発生します。これは、2 つの浮動小数点数を乗算する場合にさらに顕著になります。この関数は、より正確な乗算結果を返します。
//呼び出し: accMul(arg1,arg2)
//戻り値: arg1 に arg2 を乗算した正確な結果
function accMul(arg1,arg2)
{
var m=0 , s1=arg1.toString(),s2=arg2.toString();
try{m =s1.split(".")[1].length}catch(e){}
try{m = s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".", " "))/Math.pow(10,m)
}
//呼び出しをより便利にするために、Number 型に mul メソッドを追加します。
Number.prototype.mul = function (arg){
return accMul(arg, this)
}

var a=0.69;

var b=10;
alert(a*b);//6.8999999999999995
alert((a*100)/10);

関数を直接呼び出すだけです。

方法 2: 小数点以下の桁数がわかっている場合は、浮動小数点数を整数に増幅する (そして最後に対応する倍数で割る) ことを検討できます。次に、正しい結果が得られるように計算操作を実行します

alert(11*22.9);//251.89999999999998 を取得

alert(11*(22.9*10)/10);//251.9 を取得

声明:
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。