Warum führen direkte Umwandlungen und Variablenzuweisungen von C#-Float-Ausdrücken zu unterschiedlichen ganzzahligen Ergebnissen?

Ungewöhnliches Verhalten bei der Konvertierung von C#-Gleitkommazahlen in Ganzzahlen: Unterschied zwischen direkter Konvertierung und Variablenzuweisung

In C# stoßen Entwickler häufig auf ein seltsames Verhalten, wenn sie das Ergebnis eines Gleitkommaausdrucks in eine Ganzzahl konvertieren. Betrachten Sie beispielsweise den folgenden Codeausschnitt:

int speed1 = (int)(6.2f * 10);
float tmp = 6.2f * 10;
int speed2 = (int)tmp;

Intuitiv sollten Geschwindigkeit1 und Geschwindigkeit2 den gleichen Wert haben. Dies ist jedoch nicht der Fall: Geschwindigkeit1 ist gleich 61 und Geschwindigkeit2 ist gleich 62.

Erklärung der Unterschiede

Die Ursache liegt im subtilen Unterschied zwischen direkter Konvertierung und Variablenzuweisung. Im Fall von speed1 ergibt der Ausdruck 6.2f * 10 einen Gleitkommawert von 61,999998. Bei der impliziten Konvertierung in eine Ganzzahl wird dieser Wert auf 61 gekürzt.

Andererseits speichert die Variable tmp explizit einen Gleitkommawert von 61,999998. Bei expliziter Konvertierung in eine ganze Zahl wird dieser Wert auf die nächste ganze Zahl gerundet, was 62 ergibt.

Mittlere Präzision

Dieser Unterschied wird noch interessanter, wenn man den vom Compiler generierten Bytecode analysiert. Im ersten Fall wird der Ausdruck 6.2f * 10 direkt zum Zwischenwert. Im zweiten Fall speichert der Compiler das Ergebnis in einer Gleitkommavariablen und erstellt so einen Zwischenschritt.

Dieser Unterschied in der Zwischenlagerung beeinflusst die Genauigkeit des Endergebnisses. Der Compiler ermöglicht die Verwendung von Zwischenwerten mit höherer Genauigkeit, auch wenn der formale Typ (Float) etwas anderes impliziert. In einigen Fällen, in denen der Compiler dies tut, kann das Ergebnis auf 61 gekürzt werden, was zu dem beobachteten Unterschied führt.

So vermeiden Sie dieses Problem

Um in diesen Fällen Konsistenz zu gewährleisten, wird empfohlen, Gleitkommaausdrücke vor der Konvertierung in Ganzzahlen explizit zu runden, wie im folgenden Beispiel:

int speed3 = (int)Math.Round(6.2f * 10);

Das obige ist der detaillierte Inhalt vonWarum führen direkte Umwandlungen und Variablenzuweisungen von C#-Float-Ausdrücken zu unterschiedlichen ganzzahligen Ergebnissen?. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!