搜尋
首頁web前端js教程javascript避免數位計算精度誤差的方法詳解_javascript技巧

如果我問你 0.1 0.2 等於幾?你可能會送我一個白眼,0.1 0.2 = 0.3 啊,那還用問嗎?連幼稚園的小朋友都會回答這麼小兒科的問題了。但你知道嗎,同樣的問題放在程式語言中,或許就不是想像中那麼簡單的事兒了。
不信?我們先來看一段 JS。

var numA = 0.1;
var numB = 0.2;
alert( (numA numB) === 0.3 );

執行結果是 false。沒錯,當我第一次看到這段程式碼時,我也理所當然地以為它是 true,但是執行結果讓我大跌眼鏡,是我的開啟方式不對嗎?非也非也。我們再執行以下程式碼試試看就知道結果為什麼是 false 了。

var numA = 0.1;
var numB = 0.2;
alert( numA numB );

原來,0.1 0.2 = 0.30000000000000004。是不是很奇葩?其實對於浮點數的四則運算,幾乎所有的程式語言都會有類似精確度誤差的問題,只不過在C /C#/Java 這些語言中已經封裝了方法來避免精確度的問題,而JavaScript 是一門弱型別的語言,從設計思想上就沒有對浮點數有嚴格的資料型,所以精確度誤差的問題就顯得格外突出。下面就分析下為什麼會有這個精度誤差,以及要怎麼修復這個誤差。

首先,我們要站在電腦的角度思考 0.1 0.2 這個看似小兒科的問題。我們知道,能被電腦讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:

0.1 => 0.0001 1001 1001 1001…(無限循環)
0.2 => 0.0011 0011 0011 0011…(無限循環)

雙精度浮點數的小數部分最多支援52 位,所以兩者相加之後得到這麼一串0.0100110011001100110011001100110011001100110011001100 制數就成了0.30000000000000004。

原來如此,那要怎麼解決這個問題呢?我想要的結果就是 0.1 0.2 === 0.3 啊! ! !

有種最簡單的解決方案,就是給出明確的精度要求,在回傳值的過程中,計算機會自動四捨五入,例如:

var numA = 0.1;
var numB = 0.2;
alert( parseFloat((numA numB).toFixed(2)) === 0.3 );

但明顯這不是一勞永逸的方法,如果有一個方法能幫我們解決這些浮點數的精度問題,那該有多好。讓我們來試試看下面這個方法:

Math.formatFloat = function(f, digit) {
    var m = Math.pow(10, digit);
    return parseInt(f * m, 10) / m;
>
var numA = 0.1;
var numB = 0.2;

alert(Math.formatFloat(numA numB, 1) === 0.3);

這個方法是什麼意思呢?為了避免產生精度差異,我們要把需要計算的數字乘以10 的n 次冪,換算成計算機能夠精確識別的整數,然後再除以10 的n 次冪,大部分程式語言都是這樣處理精度差異的,我們就藉用過來處理一下JS 中的浮點數精度誤差。

如果下次再有人問你 0.1 0.2 等於幾,你可要小心回答咯! !

陳述
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
JavaScript的演變:當前的趨勢和未來前景JavaScript的演變:當前的趨勢和未來前景Apr 10, 2025 am 09:33 AM

JavaScript的最新趨勢包括TypeScript的崛起、現代框架和庫的流行以及WebAssembly的應用。未來前景涵蓋更強大的類型系統、服務器端JavaScript的發展、人工智能和機器學習的擴展以及物聯網和邊緣計算的潛力。

神秘的JavaScript:它的作用以及為什麼重要神秘的JavaScript:它的作用以及為什麼重要Apr 09, 2025 am 12:07 AM

JavaScript是現代Web開發的基石,它的主要功能包括事件驅動編程、動態內容生成和異步編程。 1)事件驅動編程允許網頁根據用戶操作動態變化。 2)動態內容生成使得頁面內容可以根據條件調整。 3)異步編程確保用戶界面不被阻塞。 JavaScript廣泛應用於網頁交互、單頁面應用和服務器端開發,極大地提升了用戶體驗和跨平台開發的靈活性。

Python還是JavaScript更好?Python還是JavaScript更好?Apr 06, 2025 am 12:14 AM

Python更适合数据科学和机器学习,JavaScript更适合前端和全栈开发。1.Python以简洁语法和丰富库生态著称,适用于数据分析和Web开发。2.JavaScript是前端开发核心,Node.js支持服务器端编程,适用于全栈开发。

如何安裝JavaScript?如何安裝JavaScript?Apr 05, 2025 am 12:16 AM

JavaScript不需要安裝,因為它已內置於現代瀏覽器中。你只需文本編輯器和瀏覽器即可開始使用。 1)在瀏覽器環境中,通過標籤嵌入HTML文件中運行。 2)在Node.js環境中,下載並安裝Node.js後,通過命令行運行JavaScript文件。

在Quartz中如何在任務開始前發送通知?在Quartz中如何在任務開始前發送通知?Apr 04, 2025 pm 09:24 PM

如何在Quartz中提前發送任務通知在使用Quartz定時器進行任務調度時,任務的執行時間是由cron表達式設定的。現�...

在JavaScript中,如何在構造函數中獲取原型鏈上函數的參數?在JavaScript中,如何在構造函數中獲取原型鏈上函數的參數?Apr 04, 2025 pm 09:21 PM

在JavaScript中如何獲取原型鏈上函數的參數在JavaScript編程中,理解和操作原型鏈上的函數參數是常見且重要的任�...

微信小程序webview中Vue.js動態style位移失效是什麼原因?微信小程序webview中Vue.js動態style位移失效是什麼原因?Apr 04, 2025 pm 09:18 PM

在微信小程序web-view中使用Vue.js動態style位移失效的原因分析在使用Vue.js...

在Tampermonkey中如何實現對多個鏈接的並發GET請求並依次判斷返回結果?在Tampermonkey中如何實現對多個鏈接的並發GET請求並依次判斷返回結果?Apr 04, 2025 pm 09:15 PM

在Tampermonkey中如何對多個鏈接進行並發GET請求並依次判斷返回結果?在Tampermonkey腳本中,我們經常需要對多個鏈...

See all articles

熱AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智慧驅動的應用程序,用於創建逼真的裸體照片

AI Clothes Remover

AI Clothes Remover

用於從照片中去除衣服的線上人工智慧工具。

Undress AI Tool

Undress AI Tool

免費脫衣圖片

Clothoff.io

Clothoff.io

AI脫衣器

AI Hentai Generator

AI Hentai Generator

免費產生 AI 無盡。

熱門文章

R.E.P.O.能量晶體解釋及其做什麼(黃色晶體)
3 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.最佳圖形設置
3 週前By尊渡假赌尊渡假赌尊渡假赌
R.E.P.O.如果您聽不到任何人,如何修復音頻
3 週前By尊渡假赌尊渡假赌尊渡假赌
WWE 2K25:如何解鎖Myrise中的所有內容
3 週前By尊渡假赌尊渡假赌尊渡假赌

熱工具

SecLists

SecLists

SecLists是最終安全測試人員的伙伴。它是一個包含各種類型清單的集合,這些清單在安全評估過程中經常使用,而且都在一個地方。 SecLists透過方便地提供安全測試人員可能需要的所有列表,幫助提高安全測試的效率和生產力。清單類型包括使用者名稱、密碼、URL、模糊測試有效載荷、敏感資料模式、Web shell等等。測試人員只需將此儲存庫拉到新的測試機上,他就可以存取所需的每種類型的清單。

記事本++7.3.1

記事本++7.3.1

好用且免費的程式碼編輯器

Dreamweaver CS6

Dreamweaver CS6

視覺化網頁開發工具

Atom編輯器mac版下載

Atom編輯器mac版下載

最受歡迎的的開源編輯器

SublimeText3漢化版

SublimeText3漢化版

中文版,非常好用