>  기사  >  백엔드 개발  >  정확한 계산을 위해 부동 소수점 산술의 함정을 극복하는 방법은 무엇입니까?

정확한 계산을 위해 부동 소수점 산술의 함정을 극복하는 방법은 무엇입니까?

DDD
DDD원래의
2024-10-21 14:53:02564검색

How to Overcome Pitfalls in Floating Point Arithmetic for Accurate Calculations?

부동 소수점 산술 함정: 이를 극복하는 방법

Python과 같은 프로그래밍 언어에서 일반적으로 사용되는 소수 기반 부동 소수점 산술은 다음을 수행할 수 있습니다. 대략적인 특성으로 인해 미묘한 오류가 발생합니다. 정확한 계산을 위해서는 이러한 오류를 이해하는 것이 중요합니다.

문제

부동 소수점 덧셈을 사용하여 제곱근을 추정하려면 다음 Python 함수를 고려하세요.

<code class="python">def sqrt(num):
    root = 0.0
    while root * root < num:
        root += 0.01
    return root

그러나 이 함수는 부정확한 결과를 생성합니다.

<code class="python">>>> sqrt(4)
2.0000000000000013
>>> sqrt(9)
3.00999999999998</code>

부동 소수점 문제

문제는 Python의 부동 소수점 값이 십진수를 정확하게 표현한 것은 아닙니다. 대신 이진수 표현을 사용하므로 이진수 형식으로 정확하게 표현할 수 없는 숫자를 처리할 때 부정확성이 발생할 수 있습니다.

예제 함수에서 0.01을 더하는 것은 1/100을 더하는 것과 같지 않습니다. 대략적인 표현입니다. 추가된 실제 값은 1/100보다 약간 커서 약간 과대평가됩니다.

부동 소수점 오류 극복

이러한 오류를 방지하려면 다음 전략을 고려하세요.

  • Decimal 모듈 사용:

Python Decimal 모듈은 소수 기반 고정 소수점 표현을 사용하는 대체 유형인 Decimal을 제공합니다. 수정된 함수에서 볼 수 있듯이 더 정확한 계산을 제공합니다.

<code class="python">from decimal import Decimal as D

def sqrt(num):
    root = D(0)
    while root * root < num:
        root += D("0.01")
    return root</code>
  • 이진 표현 가능 값 사용:

부동 소수점을 사용합니다. 0.125(1/8) 또는 0.0625(1/16)과 같이 정확한 이진 분수를 나타내는 덧셈입니다. 이렇게 하면 반올림 오류 없이 정확한 덧셈이 가능합니다.

정확한 수치 계산을 위해서는 부동 소수점 오류를 이해하고 극복하는 것이 필수적입니다. 적절한 전략을 사용하면 개발자는 이러한 오류를 최소화하고 보다 정확한 결과를 얻을 수 있습니다.

위 내용은 정확한 계산을 위해 부동 소수점 산술의 함정을 극복하는 방법은 무엇입니까?의 상세 내용입니다. 자세한 내용은 PHP 중국어 웹사이트의 기타 관련 기사를 참조하세요!

성명:
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.