>  기사  >  웹 프론트엔드  >  javascript(js)_javascript 스킬의 소수점 곱셈과 나눗셈 문제에 대한 자세한 설명

javascript(js)_javascript 스킬의 소수점 곱셈과 나눗셈 문제에 대한 자세한 설명

WBOY
WBOY원래의
2016-05-16 16:56:401385검색

1. js를 사용하여 계산
12.32 * 7 결과는 무엇입니까? 답: 86.24000000000001

왜 이런 문제가 발생하나요? 어떻게 해결하나요?
소수의 곱셈과 나눗셈을 처리할 때 js에 버그가 있습니다. 해결 방법은 다음과 같습니다. 처리를 위해 소수를 정수로 변환합니다.
위 계산은 다음과 같이 변경될 수 있습니다.
12.32 * 100 * 7 /100
결과는 86.24입니다. 맞습니다.

또한 계산:
8.80 * 100 * 12 / 100
결과: 105.60000000000002
38.80 비슷한 문제도 발생합니다.

정확도 10배 증가:
8.80 * 1000 * 12 / 1000
결과: 105.6
정상.

16.40 * 1000000 * 6 / 1000000
결과도 문제가 있습니다

js 실행을 보다 정확하게 하기 위해 향후 js 십진수 계산에서는 값을 직접 10000배로 확장한 다음 10000으로 나누어 문제를 해결합니다.
var num = 38.80;
var num2 = 13;
alert(num * 10000 * 12 / 10000);

곱하고 나누는 숫자는 10,000으로 테스트되었습니다. 더 작으면 일부 숫자는 문제가 발생하고, 더 큰 경우(1,000,000) 일부 숫자도 문제가 발생합니다.

2.

코드를 복사하세요 코드는 다음과 같습니다.

<스크립트 연기>
Number.prototype.rate=function(){
varoStr=this.toString();
if(oStr.indexOf("." )==- 1)
return1;
else
returnMath.pow(10,parseInt(oStr.length-oStr.indexOf(".")-1));
}

functiontran(){
args=tran.arguments;
vartemp=1;
for(i=0;itemp*=args[i] *args[i].rate();
for(i=0;itemp/=args[i].rate();
returntemp
}
alert(tran(11,22.9));


이 솔루션은 더 번거롭지만 해결 방법에 대한 일반적인 아이디어를 제공할 수 있습니다. 이 문제는 실제 과정입니다.
코드 복사 코드는 다음과 같습니다.

//Division 함수, 정확한 값을 구하는 데 사용됨 나눗셈 결과
//참고: JavaScript의 나눗셈 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 나눌 때 더 분명해집니다. 이 함수는 더 정확한 나누기 결과를 반환합니다.
//Call: accDiv(arg1,arg2)
//반환 값: arg1을 arg2로 나눈 정확한 결과
function accDiv(arg1,arg2){
var t1=0,t2= 0 ,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString(). 분할 (".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}

//Number 유형에 div 메소드를 추가하여 호출을 더욱 편리하게 만듭니다.
Number.prototype.div = 함수(arg){
return accDiv(this, arg);
}

//정확한 곱셈 결과를 얻기 위해 사용되는 곱셈 함수
//설명: JavaScript의 곱셈 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 곱할 때 더 분명해집니다. 이 함수는 더 정확한 곱셈 결과를 반환합니다.
//Call: accMul(arg1,arg2)
//반환 값: arg1에 arg2를 곱한 정확한 결과
function accMul(arg1,arg2)
{
var m=0 , s1=arg1.toString(),s2=arg2.toString();
try{m =s1.split(".")[1].length}catch(e){}
try{m = s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".", " "))/Math.pow(10,m)
}

// Number 타입에 mul 메소드를 추가해 더욱 편리하게 전화를 걸 수 있습니다.
Number.prototype.mul = 함수(arg){
return accMul(arg, this);
}

//정확한 덧셈 결과를 얻기 위해 사용되는 덧셈 함수
//설명: JavaScript의 덧셈 결과에는 오류가 있으며, 이는 두 개의 부동 소수점 숫자를 더할 때 더 분명해집니다. 이 함수는 더 정확한 덧셈 결과를 반환합니다.
//Call: accAdd(arg1,arg2)
//반환 값: arg1과 arg2의 정확한 결과
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(". ")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m arg2*m)/ 음
}

//전화를 더 편리하게 할 수 있도록 Number 유형에 add 메소드를 추가합니다.
Number.prototype.add = 함수(arg){
return accAdd(arg,this);
}

성명:
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.