JavaScript浮動小数点演算精度の問題_JavaScriptスキル

JS コード

コードをコピー コードは次のとおりです: alert(1/3);//ポップアップ: 0.333333333333333 alert(0.09999999 0.00000001);//ポップアップ: 0.0999999999999999 alert(-0. 09999999 - 0.00000001); //ポップアップ : -0.0999999999999999 alert(0.012345 * 0.000001);//ポップアップ: 1.2344999999999999e-8 alert(0.000001 / 0.0001);//ポップアップ : 9999999999 99998 🎜> アラート(1/3);//ポップアップ: 0.3333333333333333 アラート(0.09999999 0.00000001);//ポップアップ: 0.09999999999999999 アラート(-0.09999999 - 0.00000001); // ポップアップ: -0.0999999999999999 アラート(0.012345 * 0.000001) // ポップアップ: 1.2344999999999999e-8 アラート(0.000) 001 / 0.0 001);// Popup: 0.009999999999999998 [code] 最初の行を除いて (単独で分割できないため)、他の行はポップから正確な結果を取得するはずです。 -up の結果、それが私たちが望んでいたものではないことがわかりました。不正確な浮動小数点数演算の問題を解決するには、まず演算に含まれる数値をアップグレードします (10 の乗数)。それらを収集して分類し、将来の使用のためにここに投稿してください。 加算 Js コード [code] //説明: JavaScript の加算結果にはエラーが発生します。これは、2 つの浮動小数点数を加算するときにより顕著になります。この関数は、より正確な加算結果を返します。 //呼び出し: accAdd(arg1,arg2) //戻り値: arg1 と arg2 の正確な結果 function accAdd(arg1,arg2){ var r1,r2,m; 🎜>try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(". ")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m arg2*m)/ m } //呼び出しをより便利にするために、Number 型に add メソッドを追加します。 Number.prototype.add = function (arg){ return accAdd(arg,this); } //説明: 2 つの浮動小数点数の加算結果はエラーになります。を比較し、追加するとより明らかになります。この関数は、より正確な加算結果を返します。 //呼び出し: accAdd(arg1,arg2) //戻り値: arg1 と arg2 の正確な結果 function accAdd(arg1,arg2){ var r1,r2,m; 🎜>try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(". ")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m arg2*m)/ m } //呼び出しをより便利にするために、Number 型に add メソッドを追加します。 Number.prototype.add = function (arg){ return accAdd(arg,this) } 減算 Js コード [code] //説明: JavaScript の減算結果には誤差が生じますが、これは 2 つの浮動小数点数を加算するときにより顕著になります。この関数は、より正確な減算結果を返します。 //呼び出し: accSub(arg1, arg2) //戻り値: arg1 から arg2 を引いた正確な結果 function accSub(arg1, arg2){ return accAdd(arg1,-arg2) ; } //呼び出しをより便利にするために Number 型にサブメソッドを追加します。 Number.prototype.sub = function (arg){ return accSub(this,arg); } //説明: 2 つの浮動小数点数の場合、JavaScript の減算結果にエラーが発生します。を比較して追加するとさらに分かりやすくなります。この関数は、より正確な減算結果を返します。 //呼び出し: accSub(arg1, arg2) //戻り値: arg1 から arg2 を引いた正確な結果 function accSub(arg1, arg2){ return accAdd(arg1,-arg2) ; } //呼び出しをより便利にするために、Number 型にサブメソッドを追加します。 Number.prototype.sub = function (arg){ return accSub(this,arg) }

乗算 Js コード

コードをコピー コードは次のとおりです: //説明: JavaScript の乗算結果にはエラーが発生します。これは、2 つの浮動小数点数を乗算するとより顕著になります。この関数は、より正確な乗算結果を返します。 //呼び出し: accMul(arg1,arg2) //戻り値: arg1 に arg2 を乗算した正確な結果 function accMul(arg1,arg2) { var m=0 , s1=arg1.toString(),s2=arg2.toString(); try{m =s1.split(".")[1].length}catch(e){} try{m = s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".", " "))/Math.pow(10,m) } //呼び出しをより便利にするために、Number 型に mul メソッドを追加します。 Number.prototype.mul = function (arg){ return accMul(arg, this); } //説明: 2 つの浮動小数点数の場合、JavaScript の乗算結果にエラーが発生します。比較すると、掛け算するとより明らかになります。この関数は、より正確な乗算結果を返します。 //呼び出し: accMul(arg1,arg2) //戻り値: arg1 に arg2 を乗算した正確な結果 function accMul(arg1,arg2) { var m=0 , s1=arg1.toString(),s2=arg2.toString(); try{m =s1.split(".")[1].length}catch(e){} try{m = s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".", " "))/Math.pow(10,m) } //呼び出しをより便利にするために、Number 型に mul メソッドを追加します。 Number.prototype.mul = function (arg){ return accMul(arg, this); } 除算 Js コード //説明: JavaScript の除算結果にはエラーが発生します。 2 つの浮動小数点数を除算すると、より明らかになります。この関数は、より正確な除算結果を返します。 //呼び出し: accDiv(arg1,arg2) //戻り値: arg1 を arg2 で除算した正確な結果 function accDiv(arg1,arg2){ var t1=0,t2= 0 ,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString(). split (".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //呼び出しをより便利にするために、Div メソッドを Number 型に追加します。 Number.prototype.div = function (arg){ return accDiv(this, arg); } //説明: 2 つの浮動小数点数の場合、JavaScript の除算結果はエラーになります。比較してみると、取り外すとより分かりやすくなります。この関数は、より正確な除算結果を返します。 //呼び出し: accDiv(arg1,arg2) //戻り値: arg1 を arg2 で除算した正確な結果 function accDiv(arg1,arg2){ var t1=0,t2= 0 ,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString(). split (".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //呼び出しをより便利にするために、Div メソッドを Number 型に追加します。 Number.prototype.div = function (arg){ return accDiv(this, arg); } テストします Js コード コードをコピー コードは次のとおりです: /* alert(0.09999999 0.00000001);//ポップアップ: 0.09999999999999999 alert(-0.09999999 - 0.00000001);//ポップアップ: -0.099999 99999999999 アラート(0.012345 * 0.000001);/ /pop up : 1.2344999999999999e-8 alert(0.000001 / 0.0001);//ポップアップ: 0.009999999999999998 * alert(0.09999999.add(0.00000001) ));//ポップアップ: 0.1 アラート(-0.09999999 .sub(0.00000001));//ポップアップ: -0.09999998 alert(0.012345.mul(0.000001));//ポップアップ: 1.2345e-8 alert(0.000001.div( 0.0001));//ポップアップ : 0.01

JavaScript浮動小数点演算精度の問題_JavaScriptスキル

関連記事