OpenCL,OpenGL编译
OpenCL,OpenGL編譯
TVM已經支持多個硬件后端:CPU,GPU,移動設備等…添加了另一個后端:OpenGL / WebGL。
OpenGL / WebGL能夠在沒有安裝CUDA的環境中利用GPU。目前,這是在瀏覽器中使用GPU的唯一方式。
這個新的后端允許以一下3種方式使用OpenGL / WebGL:
? 本地OpenGL:可以將深度學習模型編譯成OpenGL,并直接在本地機器上運行,完全只使用Python。
? 帶有RPC的WebGL:可以將深度學習模型編譯為WebGL,作為一個共享庫導出,并帶有Java主機代碼和WebGL設備代碼。然后,可以通過RPC將這個共享庫部署到TVM Java運行時系統,在瀏覽器內運行。
? 帶有靜態庫的WebGL:可以將深度學習模型編譯為WebGL,與TVM Java運行時系統連接,導出整個包。然后,可以在瀏覽器的網頁中運行模型,不需要依賴項。詳細流程如圖1所示。
TVM Compiler
TVM中的操作內核是自動編譯的,不是人工編譯的。如圖2所示,TVM使用統一的AST定義內核,編譯為不同平臺上的代碼。
? 不需要編寫大量附加代碼,就可以將現有模型部署。Relay / TVM模型定義對于所有target都是相同的,只需將其編譯到新的target。
? 如果要添加新的操作系統內核,只需要在TVM中定義一次,不用為每個target實現一次。不需要知道如何編寫代碼添加新的操作系統內核。
CPU(LLVM):模型被編譯為LLVM IR和JIT’ed,完全在CPU上運行。
OpenCL:模型被編譯成OpenCL。還有一些glue code被編譯到LLVM,負責設置和啟動OpenCL內核。然后在本地機器上運行。
OpenGL:與OpenCL相同,但編譯為OpenGL。
參考鏈接:
https://www.sohu.com/a/225439682_473283
總結
以上是生活随笔為你收集整理的OpenCL,OpenGL编译的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 半导体异质集成电路
- 下一篇: 高通为何46亿美元ADAS Veonee