부동 소수점 비교에서 예상치 못한 결과가 나타나는 이유는 무엇입니까?

부동 소수점 비교 불일치

제공된 코드 조각에서:

int main()
{
    float a = 0.7;
    float b = 0.5;
    if (a < 0.7)
    {
       if (b < 0.5) printf("2 are right");
       else         printf("1 is right");
    }
    else printf("0 are right");
}

"0의 예상 출력은 다음과 같습니다. 권리"를 얻지 못했습니다. 대신 "1 is right"가 인쇄됩니다. 이러한 불일치는 부동 소수점 숫자의 고유한 부정확성으로 인해 발생합니다.

부동 소수점 피연산자와 비교를 수행하면 자동으로 배정밀도 값으로 승격됩니다. 실수는 double보다 정확도가 떨어지기 때문에 의도한 값을 정확하게 표현하지 못할 수도 있습니다. 이 경우 a(float)를 0.7(double)과 비교하면 a가 내부적으로 double로 변환되어 정밀도가 떨어집니다. 이로 인해 a는 0.7보다 약간 작아지고 a < 0.7 비교를 통해 true로 평가됩니다.

이 문제를 해결하려면 다음 중 하나를 수행하세요.

• float를 double로 변경:

double a = 0.7;
double b = 0.5;

• 'f'와 함께 부동 소수점 리터럴을 사용하세요 suffix:

float a = 0.7f;
float b = 0.5f;

두 접근 방식 모두 피연산자가 부동 소수점으로 유지되고 두 배로 승격되는 동안 정밀도 손실을 방지합니다.

위 내용은 부동 소수점 비교에서 예상치 못한 결과가 나타나는 이유는 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!