ホームページ  >  記事  >  バックエンド開発  >  C# での浮動小数点計算の問題を解決する

C# での浮動小数点計算の問題を解決する

黄舟
黄舟オリジナル
2017-09-20 11:05:182048ブラウズ

あなたの算数能力をテストするための計算問題をお見せしましょう。

0.1 +0.1 +0.1 - 0.3 は何に等しいですか?

こんな素朴な質問をするかもしれませんが、あなたは私を見下しているのですか? 0 に等しくなければなりません。

直接計算する場合は問題ありませんが、コンピューターを使用する場合はどうでしょうか?

奇跡を目撃する時が来ました。コードを見てください:


void Main()
{    var f = 0.1 +0.1 +0.1 -0.3;
    Console.WriteLine("f=={0}",f);
}

実行結果:

これは、コンピューターの精度、コンピューターの内部ストレージや操作など、私の説明は明確ではないかもしれませんが、次の解決策を使用して解決できます。通常の動作結果。


ラララ! ! ! !

以上がC# での浮動小数点計算の問題を解決するの詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。

声明:
この記事の内容はネチズンが自主的に寄稿したものであり、著作権は原著者に帰属します。このサイトは、それに相当する法的責任を負いません。盗作または侵害の疑いのあるコンテンツを見つけた場合は、admin@php.cn までご連絡ください。