定点c程序之五:定点数的字长效应
生活随笔
收集整理的這篇文章主要介紹了
定点c程序之五:定点数的字长效应
小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,幫大家做個(gè)參考.
由于定點(diǎn)數(shù)的字長(zhǎng)效應(yīng),其數(shù)值表示的動(dòng)態(tài)范圍較小,在運(yùn)算過(guò)程中需要進(jìn)行: 飽和處理(Saturation) 當(dāng)運(yùn)算(如累加、乘法等)超出最大、最小范圍時(shí),將超出最大值的數(shù)置為最大能表示的數(shù)值(如MAX16、MAX32等);將小于最小值的數(shù)表示為最小能表示的數(shù)值(如MIN16、MIN32等)。
在累加和乘運(yùn)算中,結(jié)果往往會(huì)超出原操作數(shù)的字長(zhǎng)。例如,兩個(gè)16位的數(shù)相乘得到的是32位的乘積,而結(jié)果保存只希望高16比特被存儲(chǔ),即將累加器中的高16比特?cái)?shù)存儲(chǔ)到普通存儲(chǔ)單元,這時(shí),需要對(duì)低位比特進(jìn)行處理:
截尾處理 直接丟棄低16比特。簡(jiǎn)單,但誤差較大; 四舍五入處理(Rounding) X+0.5,然后做截尾處理 歸一化處理 通常對(duì)定標(biāo)浮點(diǎn)數(shù)每做一次變化都要重新進(jìn)行歸一化,歸一化是為了使其尾數(shù)的絕對(duì)值在16384~32767之間,從而保證最大的精度。有的DSP處理器提供歸一化的指令,能在單指令周期內(nèi)完成累加器中數(shù)值的歸一化,一般是norm指令。轉(zhuǎn)載于:https://www.cnblogs.com/c6000/archive/2010/08/22/1806044.html
總結(jié)
以上是生活随笔為你收集整理的定点c程序之五:定点数的字长效应的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 多表连接的三种方式详解 HASH JOI
- 下一篇: 系统架构师学习笔记_第十四章_连载