ホームページ  >  記事  >  バックエンド開発  >  Go Float32bit() の結果は予期されません

Go Float32bit() の結果は予期されません

WBOY
WBOY転載
2024-02-06 09:25:111131ブラウズ

Go Float32bit() 结果不是预期的

質問内容

例: 16777219.0 10進数をビットに変換

リーリー ###しかし:### リーリー

go float32bit() の結果が予期されないのはなぜですか?

###参照する:###

base-conversion.ro

    更新:
  • リーリー
  • ルールは何ですか?

正解


go は、正しい ieee-754 バイナリ浮動小数点の結果を返します。最も近い値に丸められ、偶数に結び付けられます。


プログラミング言語仕様へ進みます

リーリー

10進数 リーリー はバイナリ

リーリー

32 ビット ieee-754 浮動小数点バイナリの場合、24 ビット整数の仮数は

です。 リーリー

最も近い値に四捨五入し、偶数を与えます

リーリー

23 ビット仮数の暗黙の 1 ビットを削除して取得します

リーリー リーリー

https://www.php.cn/link/f0bbf5fb2b067fda7b491dc2307411e4

リーリー

以上がGo Float32bit() の結果は予期されませんの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事はstackoverflow.comで複製されています。侵害がある場合は、admin@php.cn までご連絡ください。