人工智能芯片支持超低功耗器件的推理
人工智能芯片支持超低功耗器件的推理
AI chip supports inference in ultra-low-power devices
倫敦——下一代GreenWaves的超低功耗人工智能加速器GAP9,在處理比其前身GAP8大10倍的算法時,其功耗將減少5倍。新設備將提供高達50mW,總功耗為50兆瓦。這要歸功于結構改進和最新的FD-SOI(完全耗盡絕緣體上的硅)工藝技術的結合。
與上一代設備一樣,GAP9的目標是在網絡最邊緣的系統中進行人工智能推斷,例如小型、電池供電的物聯網傳感器節點。例如,GreenWaves的數據顯示GAP9在160 x 160圖像上運行MobileNet V1,通道縮放僅需12毫秒,功耗為806μW/幀/秒。
總部位于法國格勒諾布爾的GreenWaves選擇了GlobalFoundries的22nm FDX FD-SOI工藝,以最大限度地降低本已是超低功耗架構的功耗。
“對于GAP9,利用客戶對GAP8的反饋調整了GAP8的架構,但同時也轉向了市場領先的半導體工藝,”GreenWaves營銷副總裁Martin Croome說?!罢诶肍D-SOI中的體偏壓能力來實現更低的功耗?!?/p>
架構改進
GreenWaves為GAP9做了一些架構上的改進。
又增加了一個RISC-V內核,使總數達到10個。在某些模式下,一個核心用作織物控制器以及低強度計算。其九個組成一個計算集群,共享一級數據區。這個集群中的一個核心(新內核)被用作任務組主機,計算內存移動并管理其8個核心上的任務。
內部RAM增加了三倍,達到1.6MB,內存帶寬增加到了41.6GB/s,L2達到了7.2GB/s。
“這(內存帶寬)現在對MCU類設備非常重要,”克羅姆說。
GreenWaves的GAP9超低功耗AI芯片的架構現在使用10個RISC-V內核(圖片:GreenWaves)
GAP9架構的變化還包括更高的最高頻率;GAP8的時鐘頻率為175MHz,GAP9將運行在或接近400MHz。新的電力狀態也被加入,包括“昏睡”狀態,當數據可以獲得,但功率消耗仍然低于1兆瓦。在這種狀態下,處理器可以運行在一個低壓差調節器(LDO)上,可以快速啟動。這使得GAP9第一次指令的時間縮短到了幾微秒(Croome說,GAP8在等待DC-DC轉換器穩定下來的過程中花費了大約700微秒)。這種快速啟動功能在捕獲基于時間的信號(如語音)時非常有用。
所有10個核心現在都能夠處理“transprecision”浮點數:IEEE格式16和32位浮點加上支持矢量化的附加8位和16位格式。此功能可用于降低需要浮點運算法則的能量需求。GAP9還支持矢量化的4位和2位運算,用于開發深度量化的應用程序。
其新功能包括雙向多通道音頻接口。
GAP9預計將于2021年實現量產,并于2020年上半年提供樣品??肆_姆說,預計定價將比GAP8溢價50%??紤]到不同的時間、功率數據和價位,該公司預計這兩款產品都會找到未來的市場。
總結
以上是生活随笔為你收集整理的人工智能芯片支持超低功耗器件的推理的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 新十年嵌入式音频的五大趋势
- 下一篇: 超声波技术构建触摸界面