浮点运算是什么?
簡單說就是小數的加減乘除運算。
在計算機的硬件中是沒有小數點這個東西的。cpu能處理的東西都是整的。所以,小數就要用類似科學計數法的方式來表示。如1.234在計算機里面,可以理解成用1234和-3兩個整數來表示1234*10的-3次方,這類數就叫浮點數。由于這種表示方法的局限性和復雜性。計算機中的實數是有精度限制的。比如只能精確到小數點后20位,而且,cpu在處理這類數的運算時需要比整數運算復雜得多的電路設計,且速度比整數運算慢很多。具體的http://baike.baidu.com/view/339796.htm百度百科
在計算機的硬件中是沒有小數點這個東西的。cpu能處理的東西都是整的。所以,小數就要用類似科學計數法的方式來表示。如1.234在計算機里面,可以理解成用1234和-3兩個整數來表示1234*10的-3次方,這類數就叫浮點數。由于這種表示方法的局限性和復雜性。計算機中的實數是有精度限制的。比如只能精確到小數點后20位,而且,cpu在處理這類數的運算時需要比整數運算復雜得多的電路設計,且速度比整數運算慢很多。具體的http://baike.baidu.com/view/339796.htm百度百科
總結
- 上一篇: equals 和 == 的区别?知乎转载
- 下一篇: 怎样才算得上合格的程序员