導(dǎo)讀：深度學(xué)習(xí)技術(shù)已經(jīng)在互聯(lián)網(wǎng)的諸多方向產(chǎn)生影響，每天科技新聞中關(guān)于深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)的討論越來越多。深度學(xué)習(xí)技術(shù)在近兩年飛速發(fā)展，各種互聯(lián)網(wǎng)產(chǎn)品都爭(zhēng)相應(yīng)用深度學(xué)習(xí)技術(shù)，產(chǎn)品對(duì)深度學(xué)習(xí)的引入也將進(jìn)一步影響人們的生活。

而移動(dòng)技術(shù)如芯片技術(shù)爆發(fā)式進(jìn)化以及5G通信技術(shù)的到來，讓移動(dòng)平臺(tái)成為機(jī)器學(xué)習(xí)技術(shù)落地的最佳實(shí)踐平臺(tái)，是工業(yè)界應(yīng)用最看重的場(chǎng)景，各大廠商再次逐鹿于此。本文將帶你了解深度學(xué)習(xí)與移動(dòng)平臺(tái)智能。

作者：盧譽(yù)聲

來源：大數(shù)據(jù)DT（ID：bigdatadt）

01 深度學(xué)習(xí)與移動(dòng)平臺(tái)的關(guān)系

目前的機(jī)器學(xué)習(xí)應(yīng)用主要分為三個(gè)大方向：傳統(tǒng)機(jī)器學(xué)習(xí)模型、深度學(xué)習(xí)模型和非深度學(xué)習(xí)的新模型。

在解決少量樣本的簡(jiǎn)單問題時(shí)傳統(tǒng)機(jī)器學(xué)習(xí)算法依然是不可或缺的利器，因?yàn)樵谶@些場(chǎng)景中學(xué)習(xí)目標(biāo)和樣本的關(guān)系往往比較簡(jiǎn)單，如果使用深度學(xué)習(xí)容易出現(xiàn)過擬合等現(xiàn)象，而且深度學(xué)習(xí)的很多概念和理論基礎(chǔ)依然來自于傳統(tǒng)的機(jī)器學(xué)習(xí)模型，因此傳統(tǒng)機(jī)器學(xué)習(xí)依然具有很強(qiáng)的生命力。嗯，沒錯(cuò)這是辯證的，沒有絕對(duì)的好壞。

但是，目前在許多主流應(yīng)用方向，比如圖像、文字、語音之類的模式識(shí)別和生成任務(wù)中，在擁有大量樣本的情況下，深度學(xué)習(xí)模型的確比傳統(tǒng)機(jī)器學(xué)習(xí)模型效果優(yōu)秀很多，畢竟面對(duì)這些復(fù)雜的任務(wù)，人類想要去發(fā)現(xiàn)極佳的特征是一個(gè)非常困難的事情。

而且大部分傳統(tǒng)機(jī)器學(xué)習(xí)模型很難處理復(fù)雜的非線性任務(wù)，使得傳統(tǒng)機(jī)器學(xué)習(xí)算法很難和深度學(xué)習(xí)競(jìng)爭(zhēng)。這也是深度學(xué)習(xí)帶來的貢獻(xiàn)，畢竟原來傳統(tǒng)機(jī)器學(xué)習(xí)無法落地的場(chǎng)景在深度學(xué)習(xí)面前已經(jīng)可以成為現(xiàn)實(shí)了！

面對(duì)這些復(fù)雜任務(wù)深度學(xué)習(xí)是目前最好的解決方案。但好用不代表就完全沒有問題，事物總是存在兩面性，因此作為知識(shí)體系的完整性補(bǔ)充，我們有必要把深度學(xué)習(xí)的問題也提出來供大家了解。

深度學(xué)習(xí)的原理決定了其訓(xùn)練產(chǎn)生的模型自身是無法解釋且證明的。深度學(xué)習(xí)最強(qiáng)大的地方在于自動(dòng)學(xué)習(xí)特征，但問題是這些深度學(xué)習(xí)尋找出的特征都是人類無法解釋清楚的，這就使得模型本身的可解釋性、模型的泛化能力存在潛在問題，往往簡(jiǎn)單粗暴的增加樣本會(huì)大幅改善模型質(zhì)量。

而早前就出現(xiàn)的概率圖模型和現(xiàn)在興起的可解釋學(xué)習(xí)都有望從根本上解決上述問題，是下一個(gè)前沿發(fā)展方向。

但無論如何，深度學(xué)習(xí)目前在工業(yè)應(yīng)用領(lǐng)域深度學(xué)習(xí)的確是不可替代的，而作為應(yīng)用工程師最關(guān)心的肯定是這些有實(shí)用價(jià)值的技術(shù)和方法。

在移動(dòng)互聯(lián)網(wǎng)時(shí)代的后半程和物聯(lián)網(wǎng)、5G時(shí)代的大潮下，人們對(duì)于移動(dòng)端機(jī)器學(xué)習(xí)的需求已經(jīng)越來越強(qiáng)烈，這也就是為什么我們要在移動(dòng)智能的場(chǎng)景下探討深度學(xué)習(xí)的原理、算法、解決方案和優(yōu)化問題。

深度神經(jīng)網(wǎng)絡(luò)在工業(yè)界機(jī)器學(xué)習(xí)領(lǐng)域是一種行之有效的解決問題的工具，因此大家都在想如何能將深度學(xué)習(xí)更有效地利用到計(jì)算能力和存儲(chǔ)能力更為有限的移動(dòng)平臺(tái)中。在算法工程師的努力下，現(xiàn)在移動(dòng)智能已經(jīng)無法離開深度學(xué)習(xí)。

02 移動(dòng)平臺(tái)的發(fā)展與實(shí)踐

這是一個(gè)移動(dòng)平臺(tái)機(jī)器學(xué)習(xí)技術(shù)風(fēng)起云涌的時(shí)代，由各個(gè)擁有豐富技術(shù)積累的大型企業(yè)牽頭研發(fā)的移動(dòng)端機(jī)器學(xué)習(xí)框架，推動(dòng)了這一領(lǐng)域的迅速成長(zhǎng)。由Google主導(dǎo)開發(fā)的TensorFlow Lite、Facebook主導(dǎo)開發(fā)的PyTorch Mobile以及由騰訊主導(dǎo)開發(fā)的NCNN框架的迅速崛起，各大科技公司紛紛推出移動(dòng)端深度學(xué)習(xí)框架（甚至硬件）：

• Google：推出TensorFlow Lite

• Facebook：推出PyTorch Mobile

• 蘋果：推出Core ML以及A系列仿生芯片

• 騰訊：推出NCNN

• 百度：mobile-deep-learning（MDL）的全部代碼以及腳本（基于CNN）

我們可以看到，主流大廠紛紛布局移動(dòng)端機(jī)器學(xué)習(xí)已經(jīng)是十分明顯的趨勢(shì)，移動(dòng)平臺(tái)更新迭代快，不僅相應(yīng)的軟件技術(shù)日新月異，相應(yīng)的SoC也迅速進(jìn)化，而專門處理機(jī)器學(xué)習(xí)計(jì)算的神經(jīng)單元也早已嶄露頭角，如蘋果公司在iOS設(shè)備上使用的A系列仿生芯片，每年都在以令人驚訝的速度進(jìn)化。

與此同時(shí)，龐大且活躍的用戶量也讓各個(gè)大廠加速布局移動(dòng)端機(jī)器學(xué)習(xí)落地。因此，軟件的快速迭代、專有硬件的快速進(jìn)化再加上龐大且活躍的用戶群讓移動(dòng)平臺(tái)機(jī)器學(xué)習(xí)形成了良性發(fā)展，越來越多的產(chǎn)品在移動(dòng)端落地，產(chǎn)生巨大價(jià)值的同時(shí)開辟了廣闊的市場(chǎng)。

把可穿戴設(shè)備以及邊緣計(jì)算設(shè)備納入移動(dòng)平臺(tái)的范疇，我們還能看到潛在的應(yīng)用和實(shí)踐。面向消費(fèi)級(jí)產(chǎn)品的芯片已不再拘泥于中央處理器這個(gè)場(chǎng)景，越來越多的專有芯片已登陸各種可穿戴設(shè)備，比如蘋果公司推出的AirPods就搭載了專有H1芯片，華為公司推出的FreeBuds3也搭載了專有芯片來提升用戶體驗(yàn)。

可以預(yù)想的是，在不久的將來通過這些移動(dòng)平臺(tái)專有芯片實(shí)現(xiàn)人工智能技術(shù)也不是太過遙遠(yuǎn)的事情。此外，邊緣計(jì)算設(shè)備結(jié)合新的通信技術(shù)，讓互聯(lián)網(wǎng)的疆域進(jìn)一步得到擴(kuò)展，如何讓邊緣計(jì)算設(shè)備提供人工智能計(jì)算解決方案是一個(gè)極為吸引人和令人激動(dòng)的問題。通過移動(dòng)端機(jī)器學(xué)習(xí)技術(shù)讓實(shí)時(shí)人工智能計(jì)算無處不在，已不再是純粹的設(shè)想。

雖說移動(dòng)端機(jī)器學(xué)習(xí)和傳統(tǒng)服務(wù)器端的機(jī)器學(xué)習(xí)會(huì)有一些差異，但是必須要注意的是畢竟這依然屬于機(jī)器學(xué)習(xí)的范疇，只不過我們希望能夠在移動(dòng)端能夠更高效地執(zhí)行我們訓(xùn)練的模型，以滿足顯示生活中對(duì)機(jī)器學(xué)習(xí)應(yīng)用的性能需求，因此我們依然需要關(guān)注機(jī)器學(xué)習(xí)的基礎(chǔ)知識(shí)、生態(tài)環(huán)境、工具鏈以及如何訓(xùn)練我們的模型。

03 應(yīng)用場(chǎng)景與流派

互聯(lián)網(wǎng)行業(yè)在移動(dòng)端應(yīng)用神經(jīng)網(wǎng)絡(luò)的案例已經(jīng)越來越多。與深度學(xué)習(xí)緊密聯(lián)系在一起的圖像技術(shù)同樣在業(yè)界廣泛應(yīng)用。傳統(tǒng)計(jì)算機(jī)視覺和深度學(xué)習(xí)的結(jié)合使圖像技術(shù)得以快速發(fā)展。

我們來聊一聊深度學(xué)習(xí)在移動(dòng)端主要有哪些應(yīng)用場(chǎng)景。比較常見的如分辨出一張圖片中的物體是什么，也就是分類問題。

場(chǎng)景舉例：使用TensorFlow Lite作為前向引擎預(yù)測(cè)移動(dòng)設(shè)備攝像頭捕捉的畫面的具體類別，或者識(shí)別出一張照片中的人物、物品與場(chǎng)景，并在照片上自動(dòng)進(jìn)行標(biāo)注。對(duì)于擁有大量照片的用戶來說，這樣的功能十分有用，而且很多時(shí)候就是依賴于離線機(jī)器學(xué)習(xí)，比如iOS相冊(cè)當(dāng)中的自動(dòng)識(shí)別功能等。

目前的流派主要有兩種：

其一，依賴于網(wǎng)絡(luò)連接和API請(qǐng)求執(zhí)行深度神經(jīng)網(wǎng)絡(luò)，客戶端負(fù)責(zé)將所需的數(shù)據(jù)喂給API調(diào)用，并將API調(diào)用返回的數(shù)據(jù)顯示在客戶端的界面上。在移動(dòng)端深度學(xué)習(xí)普及之前，絕大部分的移動(dòng)平臺(tái)App 都使用了這種服務(wù)端計(jì)算+本地展示的方式實(shí)現(xiàn)機(jī)器學(xué)習(xí)應(yīng)用。

優(yōu)點(diǎn)是開發(fā)移動(dòng)端相對(duì)簡(jiǎn)單，缺點(diǎn)是實(shí)時(shí)性不高，且無法在網(wǎng)絡(luò)環(huán)境不好的情況下服務(wù)。

其二，完全離線運(yùn)行深度神經(jīng)網(wǎng)絡(luò)。相較于第一種方式，優(yōu)點(diǎn)顯而易見，那就是模型完全離線運(yùn)行，預(yù)測(cè)實(shí)時(shí)計(jì)算，可以在保證運(yùn)行速度的同時(shí)提供流暢體驗(yàn)。如果我們能保證移動(dòng)端高效運(yùn)行神經(jīng)網(wǎng)絡(luò)，可以使用戶感覺不到加載和運(yùn)算的過程。

我們舉個(gè)簡(jiǎn)單例子，如iPhone當(dāng)中的相冊(cè)就會(huì)自動(dòng)為你做好基于人臉識(shí)別的分類，而這個(gè)運(yùn)算是不依賴于實(shí)時(shí)聯(lián)網(wǎng)功能的。除此之外，還有很多圖像識(shí)別的案例也是無需連接遠(yuǎn)端服務(wù)器就可以實(shí)現(xiàn)的實(shí)時(shí)預(yù)測(cè)。

由于深度學(xué)習(xí)需要大量數(shù)據(jù)（這會(huì)導(dǎo)致計(jì)算能力的降低），所以大部分深度學(xué)習(xí)都是云計(jì)算。通過移動(dòng)端深度學(xué)習(xí)框架的推出，將不需要在云端擁有一大批的服務(wù)器，可以利用現(xiàn)成的移動(dòng)設(shè)備上的數(shù)據(jù)來訓(xùn)練模型，并逐步改善用戶體驗(yàn)，不需要等待被調(diào)整的模型與云端之間往返。所有培訓(xùn)數(shù)據(jù)都將保留在用戶的移動(dòng)設(shè)備上，而不必單獨(dú)更新存儲(chǔ)在云端。

這對(duì)技術(shù)提出了很高的要求，需要對(duì)硬件、性能、神經(jīng)網(wǎng)絡(luò)模型的大小做嚴(yán)格限制，讓它在計(jì)算能力有限的智能手機(jī)上，獨(dú)立工作。移動(dòng)端已然成為機(jī)器學(xué)習(xí)、深度學(xué)習(xí)技術(shù)的最佳實(shí)踐場(chǎng)，同時(shí)也是工業(yè)界應(yīng)用最看重的場(chǎng)景，把深度學(xué)習(xí)實(shí)際應(yīng)用到解決實(shí)際問題中，而不是實(shí)驗(yàn)室里去做個(gè)benchmark成為了重中之重。

那么我們?cè)鯓硬拍茏寣?shí)驗(yàn)室中的模型應(yīng)用到解決實(shí)際問題中？如何行之有效地開發(fā)移動(dòng)端機(jī)器學(xué)習(xí)應(yīng)用？如何進(jìn)行系統(tǒng)的機(jī)器學(xué)習(xí)理論梳理并付諸實(shí)踐？這些問題的提出成為了筆者撰寫《移動(dòng)平臺(tái)深度神經(jīng)網(wǎng)絡(luò)實(shí)戰(zhàn)：原理、架構(gòu)與優(yōu)化》一書的初衷。有興趣的讀者可以了解一下。

關(guān)于作者：盧譽(yù)聲，Autodesk數(shù)據(jù)平臺(tái)和計(jì)算平臺(tái)資深工程師，負(fù)責(zé)平臺(tái)架構(gòu)研發(fā)工作。工作內(nèi)容涵蓋大規(guī)模分布式系統(tǒng)的服務(wù)器后端、前端以及SDK的設(shè)計(jì)與研發(fā)，在數(shù)據(jù)處理、實(shí)時(shí)計(jì)算、分布式系統(tǒng)設(shè)計(jì)與實(shí)現(xiàn)、性能調(diào)優(yōu)、高可用性和自動(dòng)化等方面積累了豐富的經(jīng)驗(yàn)。擅長(zhǎng)C/C++、JavaScript開發(fā)，此外對(duì)Scala、Java以及移動(dòng)平臺(tái)等也有一定研究。

延伸閱讀《移動(dòng)平臺(tái)深度神經(jīng)網(wǎng)絡(luò)實(shí)戰(zhàn)》

點(diǎn)擊上圖了解及購(gòu)買

轉(zhuǎn)載請(qǐng)聯(lián)系微信：DoctorData

推薦語：新智元年度Top1好書！精講移動(dòng)平臺(tái)深度學(xué)習(xí)系統(tǒng)所需核心算法、硬件級(jí)指令集、系統(tǒng)設(shè)計(jì)與編程實(shí)戰(zhàn)、海量數(shù)據(jù)處理、業(yè)界流行框架裁剪與產(chǎn)品級(jí)性能優(yōu)化策略等，深入、翔實(shí)。

有話要說????

Q:?你想學(xué)習(xí)哪個(gè)移動(dòng)平臺(tái)？

歡迎留言與大家分享

猜你想看????

• 手把手教你用Flutter做炫酷動(dòng)畫

• 推給我的廣告都跟我最近看的內(nèi)容有關(guān)系，怎么做到的？

• 很火的深度學(xué)習(xí)框架PyTorch怎么用？手把手帶你安裝配置

• 天貓雙11、12306怎樣扛住流量高峰“集中轟炸”？一文全揭秘！

更多精彩????

在公眾號(hào)對(duì)話框輸入以下關(guān)鍵詞

查看更多優(yōu)質(zhì)內(nèi)容！

PPT?|?報(bào)告?|?讀書?|?書單?|?干貨?

大數(shù)據(jù)?|?揭秘?|?Python?|?可視化

AI?|?人工智能?|?5G?|?中臺(tái)

機(jī)器學(xué)習(xí)?|?深度學(xué)習(xí)?|?神經(jīng)網(wǎng)絡(luò)

合伙人?|?1024?|?段子?|?數(shù)學(xué)

據(jù)統(tǒng)計(jì)，99%的大咖都完成了這個(gè)神操作

????

覺得不錯(cuò)，請(qǐng)把這篇文章分享給你的朋友

轉(zhuǎn)載 / 投稿請(qǐng)聯(lián)系：baiyu@hzbook.com

更多精彩，請(qǐng)?jiān)诤笈_(tái)點(diǎn)擊“歷史文章”查看

點(diǎn)擊閱讀原文，了解更多

總結(jié)

以上是生活随笔為你收集整理的5G时代，为什么主流大厂纷纷布局这项技术？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。