Go：如何檢查將 float64 轉換為 float32 時的精確度損失

php小編草今天為大家介紹一個常見問題的解決方法：如何檢查將 float64 轉換為 float32 時可能出現的精度損失。在進行浮點數轉換時，由於兩種資料類型的位數不同，可能會導致精確度損失的問題。本文將詳細介紹如何透過比較轉換前後的數值來判斷是否有損失，並提供了一個可行的解決方案，以幫助開發者更好地處理這個問題。

問題內容

我有一個場景，我收到一個 float64 值，但必須將其作為 float32 值通過線路發送到另一個服務。我們知道接收到的值應該永遠適合 float32。但是，為了安全起見，我想記錄我們透過轉換為 float32 來遺失資料的情況。

此程式碼區塊無法編譯，因為您無法直接比較 float32 與 float64。

func convert(input float64) (output float32, err error) {
    const tolerance = 0.001
    output = float32(input)
    if output > input+tolerance || output < input-tolerance {
        return 0, errors.New("lost too much precision")
    }
    return output, nil
}

是否有一種簡單的方法來檢查我是否遇到了這種情況？ 此檢查會頻繁發生，因此我想避免進行字串轉換。

解決方法

您可以將 float32 值轉換回 float64，僅用於驗證。

要檢查轉換後的值是否表示相同的值，只需將其與原始值（輸入）進行比較即可。僅回傳 ok bool 訊息（而不是 error）也足夠/慣用了：

func convert(input float64) (output float32, ok bool) {
    output = float32(input)
    ok = float64(output) == input
    return
}

（注意：不會檢查像 nan 這樣的邊緣情況。）

測試它：

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

輸出（在 go playground 上嘗試）：

1 true
1.5 true
0.12345679 false
3.4028235e+38 true

請注意，這通常會給出ok = false 結果，因為float32 的精度小於float64，即使轉換後的值可能非常接近輸入。

因此在實務上檢查轉換值的差異會更有用。您提出的解決方案檢查絕對差值，這不是很有用：例如 1000000.1 和 1000000 是非常接近的數字，即使差異是 0.1。 0.0001 和 0.00011 的差異要小得多：0.00001，但與數字相比差異要大得多。

所以你應該檢查相對差異，例如：

func convert(input float64) (output float32, ok bool) {
    const maxreldiff = 1e-8

    output = float32(input)
    diff := math.abs(float64(output) - input)
    ok = diff <= math.abs(input)*maxreldiff

    return
}

測試它：

fmt.println(convert(1))
fmt.println(convert(1.5))
fmt.println(convert(1e20))
fmt.println(convert(math.pi))
fmt.println(convert(0.123456789))
fmt.println(convert(math.maxfloat32))

輸出（在 go playground 上嘗試）：

1 true
1.5 true
1e+20 false
3.1415927 false
0.12345679 false
3.4028235e+38 true

以上是Go：如何檢查將 float64 轉換為 float32 時的精確度損失的詳細內容。更多資訊請關注PHP中文網其他相關文章！