用軟件可編程FPGA加速網(wǎng)絡邊緣的移動應用

Accelerating Mobile Applications at the Network Edge with Software-Programmable FPGAs

FPGA加速的意義

如今邊緣計算已經(jīng)成為一種用于移動應用程序的新的計算范式，可以提高性能和能耗。具體來說，它通過將計算密集型的任務卸載到鄰近的邊緣節(jié)點，助力電力有限設備上的交互式應用程序。同時，現(xiàn)場可編程門陣列(FPGA)因其硬件可定制性而以高性能和節(jié)能的方式加速深度學習算法等計算密集型任務而聞名，已被證明是一個有吸引力的加快計算密集型工作負載的解決方案。此外，FPGA已經(jīng)被用于云計算的計算加速。

基于邊緣卸載和基于FPGA加速的優(yōu)勢，將這兩種技術結合起來，進一步提高邊緣計算的響應性能，可以在網(wǎng)絡邊緣部署基于FPGA的加速器，從計算卸載的角度加速移動應用程序。

挑戰(zhàn)

如何將邊緣卸載和基于FPGA加速兩種技術結合起來，如何實現(xiàn)。

方案

系統(tǒng)總體架構如圖所示。它由一個移動設備、一個邊緣節(jié)點(代表邊緣網(wǎng)絡)和一個云組成。

移動設備通過Wi-Fi連接到邊緣節(jié)點。它主要運行應用程序的前端部分，與計算卸載模塊進行接口，用于發(fā)送請求(例如原始傳感器數(shù)據(jù))，并通過UI接收特定于應用程序的響應。

邊緣網(wǎng)絡由無線路由器和ARM-FPGA板通過以太網(wǎng)連接而成。它有兩個主要組件，即卸載管理器模塊和計算卸載模塊。卸載管理器模塊在路由器上實現(xiàn)，用于與前端應用程序接口，并將數(shù)據(jù)路由到卸載目標(本地計算卸載模塊或遠程云)。

云被用來提供傳統(tǒng)的基于CPU的云卸載的基準性能。

基于該方案實現(xiàn)了三個交互式應用程序：識別給定圖像手寫數(shù)字，識別給定圖像物體，人臉檢測。手寫數(shù)字識別采用了相對簡單的深度學習模型，物體識別采用了相對復雜的深度學習模型，人臉不使用深度學習方法，而是基于傳統(tǒng)的計算機視覺算法。這些應用程序都是計算密集型的，預計將受益于邊緣卸載方法。

開放問題

在我們的實驗中，沒有對FPGA和另一種廣泛使用的硬件GPU進行比較。一般來說，GPU可以實現(xiàn)更高的吞吐量，在大多數(shù)情況下峰值速度通常比FPGA快。然而，FPGA可以降低單個請求的延遲，同時消耗更少的能量。我們可以看到FPGA在大多數(shù)情況下更節(jié)能。此外，FPGA的可重構特性使其比GPU更加靈活。考慮到這些方面，我們認為FPGA是邊緣卸載的更好選擇。

我們實驗中的應用都與計算機視覺有關。而如今，涉及音頻和語音處理的應用正在興起，并成為交互式應用的重要組成部分。此類應用的最先進解決方案大多基于深度學習和機器學習算法。利用FPGA加速音頻和語音處理應用的研究已經(jīng)開始。因此，我們相信基于FPGA的邊緣卸載也能夠加速涉及音頻和語音的應用程序。

我們的工作沒有考慮太多關于網(wǎng)絡邊緣的獨特特性。我們嘗試在網(wǎng)絡邊緣使用FPGA，使應用程序運行更快，并驗證其有效性，而不是考慮邊緣計算的獨特情況來優(yōu)化工作負載。

開發(fā)高效的FPGA加速器是困難的。CPU程序對于大多數(shù)程序員來說都很熟悉，并且有很多基于CPU的工作可以用于交互式應用程序。相比之下，開發(fā)FPGA程序需要程序員對應用程序和FPGA都有良好的知識。開發(fā)周期長得多，而且由于代碼可讀性差，很難調試硬件程序。

第三，目前FPGA板上的處理器頻率遠遠低于筆記本電腦或虛擬機的CPU。也就是說，板載協(xié)同處理器可能成為基于FPGA的邊緣卸載的瓶頸。幸運的是，這些問題可以通過FPGA設計工具和硬件性能的發(fā)展來解決。

見解

是，這些問題可以通過FPGA設計工具和硬件性能的發(fā)展來解決。

見解

邊緣卸載對于改善當今交互應用程序的用戶體驗很有吸引力，由于其強大的計算能力和能源效率，FPGA在加速計算密集型工作負載(如深度學習算法)方面表現(xiàn)非常好。本文試圖結合邊緣卸載和FPGA的優(yōu)點，在網(wǎng)絡邊緣部署FPGA來加速交互式移動應用，提出了一種新的網(wǎng)絡輔助計算模型，即基于FPGA的邊緣計算。雖然基于FPGA的邊緣卸載仍處于初級階段，但我們相信，這篇論文有助于考慮利用新設備和技術來改善邊緣計算背景下的移動應用。

總結

以上是生活随笔為你收集整理的用软件可编程FPGA加速网络边缘的移动应用总结的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。