當前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

模型部署到移动端_Pytorch1.4来了！定制移动端构建、支持分布式模型并行训练等...

發布時間：2025/3/19 编程问答 8 豆豆

生活随笔收集整理的這篇文章主要介紹了模型部署到移动端_Pytorch1.4来了！定制移动端构建、支持分布式模型并行训练等... 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

1月16日，Facebook發布了PyTorch 1.4，對音頻、視覺和文本庫進行了升級。在最新版本中，PyTorch 最大的變化在于增加了支持分布式模型并行訓練、為 PyTorch Mobile 提供 Build 級別的支持、torch.optim 更新等多項新的特性。

支持分布式模型并行訓練

1.4 版最大的亮點在于對分布式模型并行訓練增加了支持。

官方表示，隨著 RoBERTa 等萬億級別參數的大型模型出現，人們越來越需要模型并行訓練了。因此本次版本會提供一個分布式 RPC（Romote Procedure Call）框架。

這一框架可以遠程運行函數，在不復制真實數據的情況下查詢遠程對象。此外 PyTorch 還提供了 autograd 和優化器API，能夠透明地運行后端并跨 RPC 邊界更新參數。

相對應的，PyTorch 引入了名為 torch.distributed.rpc 的庫。這是一個有基本構建單元的代碼庫，用于構建能夠在模型訓練和推斷時遠程運行的函數。

具體來說，這一個庫有四個主要部分：RPC、Remote Reference、Distributed Autograd 和 Distributed Optimizer。

使用方法可參考官方文檔https://github.com/pytorch/pytorch/releases

為 PyTorch Mobile 提供 Build 級別的支持

去年秋天，作為PyTorch 1.3版本的一部分，面向iOS和Android設備的PyTorch Mobile首次發布，速度提升主要由于量化、谷歌TPU支持和JIT編譯器升級。

本次版本更新增加了更多對移動端的支持，如 fine-grain 級別的定制化構建腳本，這可以讓移動端開發者優化代碼庫的大小，只包括他們的模型所使用的算子。

同時，在運行過程中顯著減少對設備空間的占用。早期的結果說明，一個定制化的 MobileNetV2 比 PyTorch 的移動端庫構建出來的要小 40% 到 50%。

對 Java binding 的支持

除了對 Python 和 C++的支持以外，本次更新增加了對 Java binding 的實驗性支持。基于在 PyTorch Mobile 中對安卓開發的交互界面，用戶可以從任何 Java 程序中調用 TorchScript 模型。

當然，在本次更新中，Java binding 只在 Linux 版本上存在，且只能進行模型推理，官方將會在后續更新中擴展支持。

torch.optim 更新

除了以上三個重要特性外，還有一個新的小特性值得注意。torch.optim.lr_scheduler 現已支持“鏈式更新”（chaining）。即用戶可以定義兩個 schedulers，并交替在訓練中使用。

其他的新特性更新包括對分布式、JIT 等方面的更新。

在改進方面值得注意的是對 C++的多項 API 進行了更新和調整，此外還有對 JIT、ONNX 的改進，以及 AMD 硬件的支持等，另外，nn.GELU 正式成為了激活函數的一種。

C++更新的 API 包括：

在改進的過程中，PyTorch 1.4 還修復了大約 30 個 Bug，涵蓋 CUDA、損失函數、卷積、嵌入等多個方面的代碼。

參考鏈接https://venturebeat.com/2020/01/16/facebook-launches-pytorch-1-4-with-mobile-customization-and-java-support/

https://pytorch.org/blog/pytorch-1-dot-4-released-and-domain-libraries-updated/

視頻點擊預測大賽火熱進行中

3萬元獎金、證書、實習、就業機會已準備就位，快叫上小伙伴一起來組隊參賽吧。

賽題：希望參賽者通過已有的用戶信息、視頻信息以及他們是否觀看過某些視頻，來預測我們推薦給這些用戶的視頻對方是否會觀看。

個人、高等院校、科研單位、互聯網企業、創業團隊、學生社團等人員均可報名。

報名及組隊時間：即日起至2020年2月1日

報名入口：

圖靈聯邦 Turingtopia?www.turingtopia.com

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。