Maison > Article > développement back-end > Aller : Comment vérifier la perte de précision lors de la conversion de float64 en float32
l'éditeur php Baicao vous présente aujourd'hui une solution à un problème courant : comment vérifier la perte de précision qui peut survenir lors de la conversion de float64 en float32. Lors de la conversion de nombres à virgule flottante, une perte de précision peut survenir en raison de la différence de nombre de bits entre les deux types de données. Cet article détaillera comment déterminer s'il y a une perte en comparant les valeurs avant et après la conversion, et fournira une solution réalisable pour aider les développeurs à mieux gérer ce problème.
J'ai un scénario dans lequel je reçois une valeur float64 mais je dois l'envoyer par fil à un autre service en tant que valeur float32. Nous savons que la valeur reçue doit toujours tenir dans un float32. Cependant, par mesure de sécurité, j'aimerais signaler que nous perdons des données lors de la conversion en float32 .
Ce bloc de code ne sera pas compilé car vous ne pouvez pas comparer directement float32 à float64.
func convert(input float64) (output float32, err error) { const tolerance = 0.001 output = float32(input) if output > input+tolerance || output < input-tolerance { return 0, errors.New("lost too much precision") } return output, nil }
Existe-t-il un moyen simple de vérifier si je vis ce phénomène ? Cette vérification se produit fréquemment, je souhaite donc éviter la conversion de chaînes.
Vous pouvez utiliser float32
值转换回 float64
uniquement à des fins de vérification.
Pour vérifier si la valeur convertie représente la même valeur, comparez-la simplement avec la valeur d'origine (entrée). Revenir seulement ok bool
信息(而不是 error
) est également suffisant/idiomatique :
func convert(input float64) (output float32, ok bool) { output = float32(input) ok = float64(output) == input return }
(Remarque : les cas Edge comme nan
ne sont pas cochés.)
Testez-le :
fmt.println(convert(1)) fmt.println(convert(1.5)) fmt.println(convert(0.123456789)) fmt.println(convert(math.maxfloat32))
Sortie (essayez-le sur go terrain de jeu) :
1 true 1.5 true 0.12345679 false 3.4028235e+38 true
Notez que cela donnera généralement ok = false
结果,因为 float32
的精度小于 float64
même si la valeur convertie peut être très proche de l'entrée.
Donc, en pratique, il serait plus utile de vérifier la différence entre les valeurs converties. La solution que vous proposez vérifie la différence absolue, ce qui n'est pas très utile : par exemple 1000000.1
和 1000000
是非常接近的数字,即使差异是 0.1
。 0.0001
和 0.00011
的差异要小得多:0.00001
, mais la différence est beaucoup plus grande par rapport aux nombres.
Vous devriez donc vérifier la différence relative, par exemple :
func convert(input float64) (output float32, ok bool) { const maxreldiff = 1e-8 output = float32(input) diff := math.abs(float64(output) - input) ok = diff <= math.abs(input)*maxreldiff return }
Testez-le :
fmt.println(convert(1)) fmt.println(convert(1.5)) fmt.println(convert(1e20)) fmt.println(convert(math.pi)) fmt.println(convert(0.123456789)) fmt.println(convert(math.maxfloat32))
Sortie (essayez-le sur go terrain de jeu) :
1 true 1.5 true 1e+20 false 3.1415927 false 0.12345679 false 3.4028235e+38 true
Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!