>백엔드 개발 >C++ >C#에서 Double 값을 비교하면 때때로 False가 반환되는 이유는 무엇입니까?

C#에서 Double 값을 비교하면 때때로 False가 반환되는 이유는 무엇입니까?

Susan Sarandon
Susan Sarandon원래의
2025-01-22 20:50:12858검색

Why Does Comparing Double Values in C# Sometimes Return False?

C#의 배정밀도 비교 이해

문제:

C#에서 double 변수를 직접 비교하면 예상치 못한 결과가 나올 수 있습니다. 예를 들어 if (x == 0.1)false 값이 할당된 경우에도 x0.1으로 평가될 수 있습니다.

근본 원인:

이 문제는 부동 소수점 숫자(예: floatdouble)가 컴퓨터 메모리에 표시되는 방식에서 발생합니다. 그들은 우리에게 익숙한 십진 분수 표현과 달리 이진 분수 표현을 사용합니다. 이는 0.1과 같은 많은 소수 값을 이진수로 정확하게 표현할 수 없음을 의미합니다. 결과 근사값에는 미묘한 반올림 오류가 발생합니다.

해상도:

가장 효과적인 솔루션은 정밀도가 가장 중요한 경우 decimal 데이터 유형을 사용하는 것입니다. decimal은 0.1과 같은 값을 정확하게 저장할 수 있는 소수 분수 표현을 사용합니다.

자세한 내용:

소수 분수와 유사한 이진 분수는 10의 거듭제곱 대신 2의 거듭제곱을 사용합니다. 1/3(0.3333...)이 십진수로 정확하게 표시될 수 없는 것처럼 1/10(0.1)에도 정확한 이진 표현이 부족합니다. . 이러한 본질적인 제한으로 인해 비교 불일치를 유발하는 반올림 오류가 발생합니다. 컴퓨터는 0.1이라는 가까운 근사치를 저장하지만 이 근사치는 비교에 사용된 문자 그대로의 0.1과 정확히 동일하지 않습니다.

위 내용은 C#에서 Double 값을 비교하면 때때로 False가 반환되는 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.