C#의 배정밀도 비교 이해
문제:
C#에서 double
변수를 직접 비교하면 예상치 못한 결과가 나올 수 있습니다. 예를 들어 if (x == 0.1)
에 false
값이 할당된 경우에도 x
는 0.1
으로 평가될 수 있습니다.
근본 원인:
이 문제는 부동 소수점 숫자(예: float
및 double
)가 컴퓨터 메모리에 표시되는 방식에서 발생합니다. 그들은 우리에게 익숙한 십진 분수 표현과 달리 이진 분수 표현을 사용합니다. 이는 0.1과 같은 많은 소수 값을 이진수로 정확하게 표현할 수 없음을 의미합니다. 결과 근사값에는 미묘한 반올림 오류가 발생합니다.
해상도:
가장 효과적인 솔루션은 정밀도가 가장 중요한 경우 decimal
데이터 유형을 사용하는 것입니다. decimal
은 0.1과 같은 값을 정확하게 저장할 수 있는 소수 분수 표현을 사용합니다.
자세한 내용:
소수 분수와 유사한 이진 분수는 10의 거듭제곱 대신 2의 거듭제곱을 사용합니다. 1/3(0.3333...)이 십진수로 정확하게 표시될 수 없는 것처럼 1/10(0.1)에도 정확한 이진 표현이 부족합니다. . 이러한 본질적인 제한으로 인해 비교 불일치를 유발하는 반올림 오류가 발생합니다. 컴퓨터는 0.1이라는 가까운 근사치를 저장하지만 이 근사치는 비교에 사용된 문자 그대로의 0.1과 정확히 동일하지 않습니다.
위 내용은 C#에서 Double 값을 비교하면 때때로 False가 반환되는 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!