首頁  >  文章  >  web前端  >  Javascript浮點數乘積運算出現多位小數的解決方法_javascript技巧

Javascript浮點數乘積運算出現多位小數的解決方法_javascript技巧

WBOY
WBOY原創
2016-05-16 16:59:491645瀏覽

Javascript在進行浮點數的乘積運算,會出現多位小數的情況。

這是由於在運算的時候先把浮點數轉換成二進制後進行運算,但是有的小數在二進制編碼後出現無限循環,因而導致計算出現了誤差,在其它變成語言中也有類似的問題。

原因解釋參考自百度知道:

例如:求1038.1-1000
1038.1=10000001110.0001100110011001100001110.000110011001100110101 00 =1111101000

1038.1轉化為二進位是個無限迴圈小數,1100是迴圈節,只能取近似值,誤差就是這裡產生的如果瀏覽器版本高,可以用toFixed() 方法可把Number 四捨五入為指定小數位數的數字。

解:依照要保留的小數位數(如4),在計算乘積的時候先乘以(10^4),然後將計算結果除以(10^4),最後對結果取近似值Math.round

複製碼 程式碼如下:
var m1 = 22 percent = (10/100),
total = percent*m1;
alert(total);//223.20000000000002

total = Math.round(total*10)/10D; >alert(total);//223.2


陳述:
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn