首頁  >  文章  >  web前端  >  Javascript中關於toFixed計算錯誤的解決方法

Javascript中關於toFixed計算錯誤的解決方法

黄舟
黄舟原創
2017-08-22 10:40:211930瀏覽

這篇文章主要介紹了Javascript中toFixed計算錯誤(依賴銀行家舍入法的缺陷)解決方法,非常具有實用價值,需要的朋友可以參考下

前言

在公司專案中涉及到一個有大量浮點數價格計算的模組,從而引發了我一系列的思考:

計算機二進制環境下浮點數的計算精度缺失問題;


console.log(.1+.2);
0.30000000000000004

為了解決上述問題,使用了toFixed方法卻出現了浮點數小數位以5結尾的四捨五入錯誤問題;


#
var num = 0.045;
console.log(num.toFixed(2));
0.04

以此為起點,引發了我關於toFixed的一系列探索,終於找到了一些有用的信息,toFixed使用的計算規則是:

銀行家舍入:所謂銀行家捨入法,其實質是一種四捨六入五取偶(又稱四捨六入五留雙)法。

簡單來說就是:四捨六入五考慮,五後非零就進一,五後為零看奇偶,五前為偶應捨去,五前為奇要進一。

正文

下面我們就來證實這個所謂的銀行家舍入法,證實分為三種情況,分別以4、5、6為舍入位元對toFixed的證實(以chrome為例):

以4為舍入位元:


var num = 0.004;
console.log(num.toFixed(2));
0.00
var num = 0.014;
console.log(num.toFixed(2));
0.01
var num = 0.094;
console.log(num.toFixed(2));
0.09

在4結尾這種情況下toFixed表現的還算不錯,並沒有錯誤的問題。

以6為舍入位:


#
var num = 0.006;
console.log(num.toFixed(2));
0.01
var num = 0.016;
console.log(num.toFixed(2));
0.02
var num = 0.096;
console.log(num.toFixed(2));
0.10

以6結尾toFixed表現的也不錯,並沒有錯誤的問題。

以5為舍入位元:

5後非零:


var num = 0.0051;
console.log(num.toFixed(2));
0.01
var num = 0.0052;
console.log(num.toFixed(2));
0.01
var num = 0.0059;
console.log(num.toFixed(2));
0.01

根據規則,五後非零就進一,我們證實並沒有任何的問題。

以5為舍入位元:

5後為零: 由於這種情況比較特殊,是toFixed方法出現計算錯誤的情況,所以我進行了大量的證實,並且分別在常見的主流瀏覽器下進行了測試:

以如下測試用例為例:

















#

var num = 0.005;
console.log(num.toFixed(2));
var num = 0.015;
console.log(num.toFixed(2));
var num = 0.025;
console.log(num.toFixed(2));
var num = 0.035;
console.log(num.toFixed(2));
var num = 0.045;
console.log(num.toFixed(2));
var num = 0.055;
console.log(num.toFixed(2));
var num = 0.065;
console.log(num.toFixed(2));
var num = 0.075;
console.log(num.toFixed(2));
var num = 0.085;
console.log(num.toFixed(2));
var num = 0.095;
console.log(num.toFixed(2));

chrome、firefox、safari、opera的結果如下:

0.01
0.01
0.03
0.04

0.04

0.06
0.07

0.07

0.09

0.10

ie11結果如下:

0.01

0.02
0.03

0.04

0.05
0.06

0.07

0.08

0.09###0.10#########可以看出Ie11下正常,其餘瀏覽器下方皆有錯誤。雖然並不完全符合銀行家舍入法的規則,我認為是由於二進制下浮點數的坑導致了不完全符合該規則。 #########總而言之:不論引入toFixed解決浮點數計算精度缺失的問題也好,它有沒有使用銀行家舍入法也罷,都是為了解決精度的問題,但是又離不開二進制浮點數的環境,但至少他幫助我們找到了問題所在,從而讓我們有解決方法。 ############解決方法############下面我提供一個透過重寫toFixed的方法:############ ###
 Number.prototype.toFixed = function(length)
    {
      var carry = 0; //存放进位标志
      var num,multiple; //num为原浮点数放大multiple倍后的数,multiple为10的length次方
      var str = this + ''; //将调用该方法的数字转为字符串
      var dot = str.indexOf("."); //找到小数点的位置
      if(str.substr(dot+length+1,1)>=5) carry=1; //找到要进行舍入的数的位置,手动判断是否大于等于5,满足条件进位标志置为1
      multiple = Math.pow(10,length); //设置浮点数要扩大的倍数
      num = Math.floor(this * multiple) + carry; //去掉舍入位后的所有数,然后加上我们的手动进位数
      var result = num/multiple + ''; //将进位后的整数再缩小为原浮点数
      /*
      * 处理进位后无小数
      */
      dot = result.indexOf(".");
      if(dot < 0){
        result += &#39;.&#39;;
        dot = result.indexOf(".");
      }
      /*
      * 处理多次进位
      */
      var len = result.length - (dot+1);
      if(len < length){
        for(var i = 0; i < length - len; i++){
          result += 0;
        }
      }
      return result;
    }
###此方法的大致想法是先找到舍入位,判斷該位置是否大於等於5,條件成立手動進一位,然後透過參數大小將原浮點數放大10的參數指數倍,然後再將包括舍入位後的位數利用floor全部去掉,根據我們之前的手動進位來確定是否進位。 ###

以上是Javascript中關於toFixed計算錯誤的解決方法的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn