2020-11-15(IEEE浮点数计算)
生活随笔
收集整理的這篇文章主要介紹了
2020-11-15(IEEE浮点数计算)
小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
V=2^E*M(符號位另算)
eg:
0 0110 . 0100
s E M
f是小數(shù)位真正的值(不分規(guī)格化和規(guī)格化)
規(guī)格化數(shù)
E=e-(2^ (k-1) -1)=6-(2^(4-1)-1)=6-7=-1
e=6
k=4
M=1+f
非規(guī)格化數(shù) eg: 0 1111 0100 | 0 0000 0100
M=f
E=1-(2^(k-1)-1)
E全為0時(shí),只用計(jì)算尾數(shù)M就行
NaN不是一個(gè)數(shù),浮點(diǎn)數(shù)對比時(shí),查看PF,如果為1,
則其中有一個(gè)浮點(diǎn)數(shù)為NaN,則此比較恒為0
32位 float s=1 k=8 n=32
64位 double s=1 k=11 n=52
總結(jié)
以上是生活随笔為你收集整理的2020-11-15(IEEE浮点数计算)的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 2020-11-14(移位运算)
- 下一篇: 2020-11-15(getinstan