AI芯片最重要的是什么?Arm中国:背后的软件生态
https://www.toutiao.com/a6692981589669839368/
?
「在2020年之前,對整個產業來說誰的軟件好用,誰就能真正的掌控市場。」
撰文 | 寓揚
去年11月份,面向廣闊的物聯網市場,Arm中國推出人工智能平臺「周易」,它主要包括人工智能處理單元(AIPU),以及軟件框架Tengine。當時Arm中國稱,通過周易平臺,能夠把芯片的開發周期縮減3-5倍,提升人工智能應用開發的生產效率。
值得一提的是,2018年Arm在中國進行業務分拆后,Arm中國成為中方占主導的合資公司。周易平臺也是由Arm中國自主研發。
在最近的一次媒體溝通會中,Arm中國進一步介紹了周易平臺,尤其是AIPU的特性,并著重介紹了周易平臺的落地應用情況,以及相比時下火熱的RISC-V架構的優勢。
AI芯片最重要的是什么?Arm中國給出的答案是,芯片背后的整套軟件工具鏈。可以預測,在2020年之前,對整個產業來說誰的軟件好用,誰就能真正的掌控市場。
1 周易平臺降低AI芯片研發門檻
軟銀董事長孫正義曾預測,2035年全球將有萬億級IoT設備在線。相比而言,PC時代的容量大約為10億臺,智能手機的容量約為60億部,而物聯網所帶來的設備體量將會是成百上千倍的增長。
Arm中國每年的銷量統計數據也有力的支撐這一預測。Arm中國生態發展副總裁、OPEN AI LAB創始人兼CEO金勇斌也介紹道,從1991年到2017年,Arm花了近26年實現了1000億基于Arm芯片的設備。但從2017年開始每年有250億臺基于Arm芯片的設備,預計到2020年,這4年就會實現第二個1000億。以此估算,到2035年達到1萬億連接設備,這一觀點并不激進。
正是看到AI與IoT領域的市場前景,去年在世界互聯網大會期間,Arm中國推出AI平臺「周易」。它主要包括兩部分,一部分是平臺上的軟件框架Tengine,用來承載算法應用;另一部分是AI處理單元AIPU,專門處理深度神經網絡為代表的AI計算。可以說,Tengine軟件框架和AI處理單元構成了周易平臺的核心要素。
?
其中,Tengine框架不依賴于AIPU或者專用AI芯片,現有的成熟芯片通過Tengine框架可以把算力提取出來,在本地進行一些AI應用的處理,從而提高了芯片性能,并降低成本。
據金勇斌介紹,現在很多基于周易平臺Tengine的使用場景已經落地,比如行車記錄儀、ADAS、安防中的人臉識別門禁和閘機等。
他舉例介紹道,一個客戶開發了一套智能人口管理系統,在單元樓下安裝攝像頭后,以前需要將采集的人臉數據傳到后端數據中心進行處理。現在通過Tengine架構,不需要改動硬件,攝像頭就可以自動在前端進行人臉識別,這樣大大減少了網絡部署成本。據他估算,周易平臺所帶來的效率提升,可節省近10倍成本。
整體而言,金勇斌稱,通過周易平臺可以降低AI芯片開發的兩個門檻:第一個是SoC集成AI功能的設計門檻,Arm中國可以提供參考設計,提供IP;第二點是降低上層軟件的開發門檻,因為僅有芯片還遠遠不夠,芯片之上的軟件框架,以及這背后的整套軟件工具鏈都尤為關鍵。軟件最終決定能不能大規模使用,對整個產業來說誰的軟件好用,誰就能真正地掌控市場。
2 DSP的局限
周易平臺的另一個核心要素是人工智能處理單元AIPU,Arm中國重點介紹了AIPU的特性,以及它相對于市面上另一種流行架構DSP的優勢。
Arm中國資深產品經理高錦煒介紹道,AIPU的最大特點是擁有一套AI和神經網絡優化指令集,這個指令集也遵循Arm一直以來的生態方式,接下來的每一代處理器都會向前兼容這個指令集,從而保證整體軟件生態的延續。此外,周易AIPU還支持可擴展的指令集。
在硬件設計上,周易AIPU兼顧了神經網絡處理器所需要的高效率,以及編程的靈活性。目前AI算法迭代很快,基本以一年為開發周期,而芯片的開發周期往往至少要3年。這種不對等性,就需要保持AI處理單元具有靈活的可編程性,從而適應不同的算法。
在軟件方面,周易平臺提供了一整套完整的工具鏈,從IP開發到軟件開發,包括編譯器、性能優化庫等,從而提供一鍵式開發服務。
針對周易AIPU的落地情況,他稱目前已經有唱衰基于AIPU做芯片設計,最快明年年中可以看到芯片推出。
目前產業界不少企業用DSP來做AI處理,針對這種狀況,高錦煒提出了他的看法。他認為DSP跟CPU一樣已經發展了二十幾年,但一直沒有形成一個比較好的生態,這是因為DSP在設計過程中存在一些缺陷。
一方面,目前存在多個DSP架構,不同DSP架構之間并不兼容,這分散了整個產業軟件投入的資源和開發精力;另一方面,DSP的開發沒有軟件生態維護的概念,這會造成即使是同一個廠家,第一代DSP的指令集或者軟件程序,無法使用在第二代DSP上。這對于軟件開發來說可能是災難性的。
3 軟件生態決定市場走向
隨著物聯網的蓬勃發展,新的開源指令集架構RISC-V在芯片江湖可謂聲名鵲起。擁抱RISC-V的一種觀點稱,「RISC-V是IoT時代最適合的處理器架構」,因為從技術的角度來講,RISC-V具備延展性,非常靈活,既可以做低功耗,也可以做復雜的AI計算。此外,它還具備更強的成本優勢。
周易平臺則是Arm架構從移動互聯網向物聯網的延伸,Arm中國又如何看待RISC-V架構的興起?
金勇斌稱,CPU做好其實并不容易,早期CPU有各種各樣的架構,RISC-V也不是第一個開源的架構。世界上很多老牌的CPU廠商,包括TI、高通、海思等,他們原來也自己設計CPU,但后來都用了Arm架構,這取決于Arm在低功耗、高性能上的顯著優勢。AIoT時代,CPU要求更低的功耗,特別是芯片上面需要有軟件生態,而RISC-V的軟件生態什么時候形成還不清楚。
顯然他想表達Arm在架構以及軟件生態上的優勢,接下來Arm也會依托這也優勢進軍IoT市場。
面對一個新的IoT市場,新的架構、新的芯片都會涌現,然而做一款芯片只是第一步,背后的軟件生態和工具鏈將會決定這個市場的走向。
總結
以上是生活随笔為你收集整理的AI芯片最重要的是什么?Arm中国:背后的软件生态的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 截图命令
- 下一篇: Linus Torvalds:我们都老了