C# 곱셈의 부동 소수점 정밀도 문제
C# 코드 조각을 살펴보겠습니다.
<code class="language-csharp">double i = 10 * 0.69;</code>
i
이 6.9가 될 것으로 예상하지만 실제 출력은 6.8999999999999995인 경우가 많습니다. 이러한 불일치는 .NET 프레임워크 내 부동 소수점 산술의 본질적인 한계로 인해 발생합니다.
부동 소수점 숫자는 십진수와 달리 이진수 형식을 사용하여 표현됩니다. 이 이진수 표현은 0.69와 같이 소수 부분이 무한히 반복되는 값을 포함하여 특정 소수 값을 완벽하게 표현할 수 없음을 의미합니다. 대신 근사치로 표시됩니다.
이러한 제한을 인식한 컴파일러는 런타임 시 10 * 0.69
를 계산하는 대신 6.9의 가까운 근사값을 직접 저장하여 계산을 최적화하는 경우가 많습니다. 이 근사치는 관찰된 약간의 차이를 설명합니다.
특히 금융 애플리케이션에서 정확성을 높이려면 decimal
데이터 유형을 사용하는 것이 좋습니다. decimal
은 10진수 표현을 사용하여 0.69와 같은 십진수를 보다 정확하게 표현하므로 이진 부동 소수점 연산과 관련된 반올림 오류를 최소화합니다.
위 내용은 C#에서 10 * 0.69가 정확히 6.9가 아닌 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!