首頁  >  文章  >  web前端  >  為什麼javascript小數相減會出現一長串的小數位數?

為什麼javascript小數相減會出現一長串的小數位數?

青灯夜游
青灯夜游原創
2021-06-18 15:50:172536瀏覽

原因:整數型會自動轉換成整數型來計算,小數則直接轉成double型進行計算;而double型需要精確到小數點後15位,因而javascript小數相減會出現一長串的小數位數。

為什麼javascript小數相減會出現一長串的小數位數?

本教學操作環境:windows7系統、javascript1.8.5版、Dell G3電腦。

javascript小數相減會出現一長串的小數位數的原因

<script>
var a=&#39;38.8&#39;;
var b=&#39;6.8&#39;;
alert(parseFloat(a)-parseFloat(b));
var a=134.22;
var b=6;
alert(a*b);
</script>

以上程式碼為什麼產生一長串小數位出來,雖然比較精確,可沒必要呀。

這個跟資料結構有關係,整數型自動轉換成正型計算,小數型直接轉成double型計算。這是在記憶體中運算的時候必須這樣,你該知道電腦只認識0和1吧,具體的就是浮點精準度的問題。

  • float 精確到小數點後7位

  • #double 精確到小數點後15位

#
javascript:document.write( (11.3-10.1).toFixed(2) )

toFixed()方法不只是截去多餘的小數位,同時它也根據截取位置的下一個小數位進行四捨五入。例如,對於數值10.739,截取到小數點後的兩位數,結果將是10.74。而對於數值10.732,截取到小數點後的兩位數,結果將是10.73。

注意,在JavaScript中我們只能截取小數點之後0位~20位的小數。

toFixed()方法僅由高版本的瀏覽器所支持,所以在使用之前最好先檢查一下瀏覽器是否支持該方法,檢查的程式碼如下所示:

var varNumber = 22.234;
 
if (varNumber.toFixed)
{
varNumber = varNumber.toFixed(2);
}
else //浏览器不支持toFixed()就使用其他方法
{
var div = Math.pow(10,2);
varNumber = Math.round(varNumber * div) / div;
}

這樣可以解決,但你想問,怎麼可能多出這麼小數點出來。

為什麼會出現如此無法理解的答案?

我Google了一下,發現原來這是JavaScript浮點運算的bug。

例如:7*0.8 JavaScript算出來就是:5.6000000000000005

網路上找到了一些解決方法,就是重新寫了一些浮點運算的函數。

下面就把這些方法摘錄下來,以便遇到同樣問題的朋友參考:

程式碼

//除法函数,用来得到精确的除法结果
//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
//调用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精确结果
 
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
//乘法函数,用来得到精确的乘法结果
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精确结果
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
//加法函数,用来得到精确的加法结果
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精确结果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}

在你要用的地方包含這些函數,然後呼叫它來計算就可以了。

例如你要計算:7*0.8 ,則改成 (7).mul(8)

其它運算類似,就可以得到比較精確的結果。

【相關推薦:javascript學習教學

#

以上是為什麼javascript小數相減會出現一長串的小數位數?的詳細內容。更多資訊請關注PHP中文網其他相關文章!

陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn