將人工智能模型壓縮到微控制器中

Squeezing AI models into microcontrollers

當(dāng)你把人工智能與物聯(lián)網(wǎng)交叉時(shí)，你得到了什么？人工智能事物（AIoT）是一個(gè)簡單的答案，但你也得到了一個(gè)巨大的微控制器新的應(yīng)用領(lǐng)域，這是由于神經(jīng)網(wǎng)絡(luò)技術(shù)的進(jìn)步，意味著機(jī)器學(xué)習(xí)不再局限于超級計(jì)算機(jī)的世界。如今，智能手機(jī)應(yīng)用處理器可以（也確實(shí)）為圖像處理、推薦引擎和其他復(fù)雜功能執(zhí)行人工智能推理。

將這種能力帶給不起眼的微控制器代表著一個(gè)巨大的機(jī)會。想象一下，一個(gè)助聽器可以使用人工智能過濾談話中的背景噪音，智能家用電器可以識別用戶的臉并切換到他們的個(gè)性化設(shè)置，還有一個(gè)支持人工智能的傳感器節(jié)點(diǎn)，它可以用最小的電池運(yùn)行數(shù)年。在端點(diǎn)處理數(shù)據(jù)提供了不可忽視的延遲、安全性和隱私優(yōu)勢。

Used in tandem, Arm’s Cortex-M55 and Ethos-U55 have enough processing power for applications such as gesture recognition, biometrics and speech recognition

Arm的Cortex-M55和Ethos-U55串聯(lián)使用，在手勢識別、生物識別和語音識別等應(yīng)用中有足夠的處理能力。

然而，用微控制器級設(shè)備實(shí)現(xiàn)有意義的機(jī)器學(xué)習(xí)并非易事。例如，作為人工智能計(jì)算的一個(gè)關(guān)鍵標(biāo)準(zhǔn)，內(nèi)存常常受到嚴(yán)重限制。但是，數(shù)據(jù)科學(xué)正在迅速發(fā)展以縮小模型尺寸，設(shè)備和IP供應(yīng)商正在通過開發(fā)工具和結(jié)合為現(xiàn)代機(jī)器學(xué)習(xí)需求量身打造的功能做出回應(yīng)。
TinyML起飛了

作為這一行業(yè)快速增長的一個(gè)標(biāo)志，今年2月在硅谷舉行的一個(gè)新的行業(yè)盛會TinyML峰會正在變得越來越強(qiáng)大。據(jù)主辦方介紹，去年舉行的首屆峰會共有11家贊助公司；今年的峰會有27家，而且展位提前售罄。主辦方稱，參加TinyML全球設(shè)計(jì)師月會的人數(shù)大幅增加。

“我們看到了一個(gè)新世界，擁有數(shù)萬億臺由TinyML技術(shù)支持的智能設(shè)備，這些設(shè)備能夠感知、分析并自主行動，為所有人創(chuàng)造一個(gè)更健康、更可持續(xù)的環(huán)境，”TinyML委員會聯(lián)席主席、高通公司高級總監(jiān)Evgeni Gousev在最近的一次會議上致開幕詞時(shí)說。

Gousev將這種增長歸因于更節(jié)能的硬件和算法的開發(fā)，以及更成熟的軟件工具。他指出，企業(yè)和風(fēng)險(xiǎn)資本投資正在增加，創(chuàng)業(yè)和并購活動也在增加。

Eta Compute’s ECM3532 uses an Arm Cortex-M3 core plus an NXP CoolFlux DSP core. The machine learning workload can be handled by either, or both

今天，TinyML委員會認(rèn)為，這項(xiàng)技術(shù)已經(jīng)得到驗(yàn)證，在微控制器中使用機(jī)器學(xué)習(xí)的初始產(chǎn)品將在2到3年內(nèi)投放市場。“殺手級應(yīng)用”被認(rèn)為還有三到五年的時(shí)間。

去年春天，谷歌首次為微控制器演示了TensorFlow框架版本，這是技術(shù)驗(yàn)證的一個(gè)重要部分。用于微控制器的TensorFlow Lite被設(shè)計(jì)為在只有數(shù)千字節(jié)內(nèi)存的設(shè)備上運(yùn)行（核心運(yùn)行時(shí)在Arm Cortex-M3上可容納16 KB；有足夠的操作員運(yùn)行語音關(guān)鍵字檢測模型，它總共占用22 KB）。它支持推理，但不支持訓(xùn)練。

大玩家

當(dāng)然，大型微控制器制造商正饒有興趣地關(guān)注著TinyML社區(qū)的發(fā)展。隨著研究使神經(jīng)網(wǎng)絡(luò)模型變得更小，機(jī)會也越來越大。大多數(shù)都支持機(jī)器學(xué)習(xí)應(yīng)用程序。例如，STMicroelectronics有一個(gè)擴(kuò)展包STM32立方體.AI，它可以在基于Arm Cortex-M的STM32系列微控制器上映射和運(yùn)行神經(jīng)網(wǎng)絡(luò)。

Renesas Electronics的e-AI開發(fā)環(huán)境允許在微控制器上實(shí)現(xiàn)AI推理。它有效地將模型轉(zhuǎn)換成可在公司E2工作室中使用的形式，與C/C++項(xiàng)目兼容。

NXP半導(dǎo)體表示，有客戶將低端Kinetis和LPC MCU用于機(jī)器學(xué)習(xí)應(yīng)用。該公司正在用硬件和軟件解決方案擁抱人工智能，盡管它主要面向更大的應(yīng)用處理器和交叉處理器（應(yīng)用處理器和微控制器之間）。

強(qiáng)壯的ARM公司合作

在微控制器領(lǐng)域的大多數(shù)老牌公司都有一個(gè)共同點(diǎn)：Arm。嵌入式處理器-核心巨頭Cortex-M系列在微控制器市場占據(jù)主導(dǎo)地位。該公司最近發(fā)布了全新的Cortex-M55內(nèi)核，它是專門為機(jī)器學(xué)習(xí)應(yīng)用而設(shè)計(jì)的，尤其是與Arm的Ethos-U55 AI加速器結(jié)合使用時(shí)。兩者都是為資源受限的環(huán)境而設(shè)計(jì)的。但是創(chuàng)業(yè)公司和小公司如何在這個(gè)市場上與大公司競爭呢？

XMOS首席執(zhí)行官馬克利佩特（Mark Lippett）笑著說：“不是通過建立基于Arm的SOC，因?yàn)?#xff08;占主導(dǎo)地位的）SOC做得非常好。”。“與這些公司競爭的唯一方法是擁有架構(gòu)優(yōu)勢……[這意味著]Xcore在性能方面的內(nèi)在能力，以及靈活性。”

XMOS’s Xcore.ai公司其最新發(fā)布的語音接口交叉處理器將不會直接與微控制器競爭，但這種觀點(diǎn)仍然成立。任何一家制造基于Arm的SoC來與大公司競爭的公司最好在它的秘密策略中有一些非常特別的東西。

總結(jié)

以上是生活随笔為你收集整理的将人工智能模型压缩到微控制器中的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。