當前位置：首頁 > 编程资源 > 编程问答 >内容正文

编程问答

【杂谈】当前模型剪枝有哪些可用的开源工具？

發布時間：2025/3/20 编程问答 36 豆豆

生活随笔收集整理的這篇文章主要介紹了【杂谈】当前模型剪枝有哪些可用的开源工具？小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

模型剪枝屬于模型優化中的重要技術之一，經過了研究人員多年的研究，工業界也開始有一些實踐，那么當前有哪些可用的模型剪枝工具呢？

作者&編輯 | 言有三

1 Tensorflow

TensorFlow Model Optimization Toolkit是谷歌官方開源的模型優化技術包，包含了模型剪枝和量化兩種API，模型剪枝支持Google提出的一些算法，具體原理可以翻看我們往期文章。

https://github.com/tensorflow/model-optimization

如果想使用該工具包，需要安裝tf-nightly or tf-nightly-gpu。不過會有一些環境沖突，所以體驗者最好做好環境隔離工作。

2 PaddleSlim

有Google自然也少不了百度，PaddleSlim是百度推出的優化包，被包含在PaddlePaddle中，支持通道均勻模型剪裁、基于敏感度的模型剪裁、基于進化算法的自動模型剪裁三種方式。

https://github.com/PaddlePaddle/models/tree/develop/PaddleSlim

PaddlePaddle框架雖然用的人少，但是技術那是一流領先的，技術宅們不要放過。

3 第三方官方集成包

PocketFlow是騰訊開源的模型優化工具，基于Tensorflow，可以實現通道級別的模型剪枝以及動態模型剪枝。

https://github.com/Tencent/PocketFlow

distiller是Intel基于Pytorch開源的模型優化工具，支持神經元，通道級別的剪枝。

https://github.com/NervanaSystems/distiller

此外微軟的NNI也集成了多種剪枝算法，并支持PyTorch，TensorFlow，MXNet，Caffe2等多個開源框架。

https://github.com/microsoft/nni

4 非官方開源的工具

keras-surgeon是一個keras的模型剪枝工具，不得不說keras的用戶還是很努力的，比如之前介過的AutoML工具Auto-Keras，該項目支持神經元，通道以及網絡層級別的剪枝操作。

https://github.com/BenWhetton/keras-surgeon

Pytorch用戶自然也是不甘落后的，下面的工具支持正常剪枝、規整剪枝。

https://github.com/666DZY666/model-compression

5 一些論文的實現

當然還有很多是對已有的模型剪枝算法的實現，下面簡單列舉其中比較好的。

[1] Learning Efficient Convolutional Networks Through Network Slimming論文實現：https://github.com/yeyun11/pytorch-network-slimming

[2] ThiNet: A Filter Level Pruning Method for Deep Neural Network Compression論文實現：https://github.com/Roll920/ThiNet

6 更多理論學習

如果想要系統性學習模型剪枝相關的理論，可以移步有三AI知識星球 -> 網絡結構1000變?-> 模型壓縮板塊 -> 模型剪枝板塊，一些解讀案例如下：

總結

網絡的稀疏性是一個普遍存在的問題，模型剪枝正是通過不斷去除冗余單元從而獲得體積更小/速度更快的模型，對于嵌入式設備來說具有很重要的工程意義。

知識星球推薦

有三AI知識星球由言有三維護，內設AI知識匯總，AI書籍，網絡結構，看圖猜技術，數據集，項目開發，Github推薦，AI1000問八大學習板塊。

【雜談】為什么邀請大家加入硬核知識星球有三AI

轉載文章請后臺聯系

侵權必究

往期精選

以上是生活随笔為你收集整理的【杂谈】当前模型剪枝有哪些可用的开源工具？的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。