당신의 산술 능력을 테스트할 계산 문제를 보여 드리겠습니다.
0.1 +0.1 +0.1 - 0.3은 무엇과 같나요?
이렇게 간단한 질문을 하셔도 저를 무시하시나요? 0과 같아야 합니다.
직접계산하면 문제없지만, 컴퓨터로 하면 어떨까요?
기적을 목격할 시간이 왔습니다. 코드를 보세요:
void Main() { var f = 0.1 +0.1 +0.1 -0.3; Console.WriteLine("f=={0}",f); }
실행 결과:
이것은 컴퓨터의 정확성, 컴퓨터의 정밀도 부족 때문입니다. 컴퓨터 내부 저장소 및 작동 등에 대한 설명이 명확하지 않을 수 있지만 다음 해결 방법을 사용하여 해결할 수 있습니다.
void Main() { //var f = 0.1 +0.1 +0.1 -0.3; //Console.WriteLine("f=={0}",f); var f1 = new Decimal(0.1) + new Decimal(0.1) + new Decimal(0.1) - new Decimal(0.3); Console.WriteLine("f1 == {0}",f1); }
작업 결과:
이것은 정상적인 작동 결과입니다.
라라라! ! ! !
위 내용은 C#의 부동 소수점 계산 문제 해결의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!