javascript
JS浮点数运算Bug的解决办法(转自百度文库)
37.5*5.5=206.08 (JS算出來(lái)是這樣的一個(gè)結(jié)果,我四舍五入取兩位小數(shù))?
我先懷疑是四舍五入的問(wèn)題,就直接用JS算了一個(gè)結(jié)果為:206.08499999999998?
怎么會(huì)這樣,兩個(gè)只有一位小數(shù)的數(shù)字相乘,怎么可能多出這么小數(shù)點(diǎn)出來(lái)。?
我Google了一下,發(fā)現(xiàn)原來(lái)這是JavaScript浮點(diǎn)運(yùn)算的一個(gè)bug。?
比如:7*0.8 JavaScript算出來(lái)就是:5.6000000000000005?
網(wǎng)上找到了一些解決辦法,就是重新寫(xiě)了一些浮點(diǎn)運(yùn)算的函數(shù)或直接擴(kuò)大倍數(shù)運(yùn)算。?
下面就把這些方法摘錄下來(lái),以供遇到同樣問(wèn)題的朋友參考:?
------------------------------------------------------------------------------------------------------
(方法一:重寫(xiě)浮點(diǎn)運(yùn)算的函數(shù))
//除法函數(shù),用來(lái)得到精確的除法結(jié)果?
//乘法函數(shù),用來(lái)得到精確的乘法結(jié)果?
//說(shuō)明:javascript的乘法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相乘的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的乘法結(jié)果。 //調(diào)用:accMul(arg1,arg2) //返回值:arg1乘以arg2的精確結(jié)果 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } //給Number類型增加一個(gè)mul方法,調(diào)用起來(lái)更加方便。 Number.prototype.mul = function (arg){ return accMul(arg, this); }//加法函數(shù),用來(lái)得到精確的加法結(jié)果?
//說(shuō)明:javascript的加法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的加法結(jié)果。 //調(diào)用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精確結(jié)果 function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m } //給Number類型增加一個(gè)add方法,調(diào)用起來(lái)更加方便。 Number.prototype.add = function (arg){ return accAdd(arg,this); }//減法函數(shù),用來(lái)得到精確的減法結(jié)果?
//說(shuō)明:javascript的減法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的減法結(jié)果。 //調(diào)用:accSubtr(arg1,arg2) //返回值:arg1減去arg2的精確結(jié)果 function accSubtr(arg1,arg2){ var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); //動(dòng)態(tài)控制精度長(zhǎng)度 n=(r1>=r2)?r1:r2; return ((arg1*m-arg2*m)/m).toFixed(n); } //給Number類型增加一個(gè)subtr 方法,調(diào)用起來(lái)更加方便。 Number.prototype.subtr = function (arg){ return accSubtr(arg,this); }在你要用的地方包含這些函數(shù),然后調(diào)用它來(lái)計(jì)算就可以了。?
比如你要計(jì)算:7*0.8 ,則改成 (7).mul(8)?
其它運(yùn)算類似,就可以得到比較精確的結(jié)果。
------------------------------------------------------------------------------------------------------
(方法二:重寫(xiě)浮點(diǎn)運(yùn)算的函數(shù))
?
轉(zhuǎn)載于:https://www.cnblogs.com/idoudou/archive/2012/11/05/2943828.html
總結(jié)
以上是生活随笔為你收集整理的JS浮点数运算Bug的解决办法(转自百度文库)的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 无支付宝怎么领健康码
- 下一篇: SSIS教程SQlServer2008R