3-2.6==0.4
生活随笔
收集整理的這篇文章主要介紹了
3-2.6==0.4
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
這里考察的就是浮點(diǎn)數(shù)計(jì)算會(huì)出現(xiàn)精度缺失的問(wèn)題
在浮點(diǎn)數(shù)計(jì)算里面,其實(shí),3-2.6=0.399999999999999,
那這個(gè)時(shí)候應(yīng)該怎么辦呢?
我知道兩個(gè)辦法
1,使用java自帶的BigDecimal,這個(gè)是不可變的,任意精度的整數(shù),這個(gè)能夠使結(jié)果精確
2,將浮點(diǎn)數(shù)乘以倍數(shù)之后變成整數(shù)計(jì)算,最后再除
轉(zhuǎn)載于:https://www.cnblogs.com/shiwanming/p/9789306.html
總結(jié)
以上是生活随笔為你收集整理的3-2.6==0.4的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 设计模式学习---策略模式
- 下一篇: 获取某个view的高度或者宽度