Recommenders with TensorRT
Recommenders with TensorRT
推薦系統(tǒng)用于向社交網(wǎng)絡(luò)、媒體內(nèi)容消費和電子商務(wù)平臺的用戶提供產(chǎn)品或媒體推薦。基于MLP的神經(jīng)協(xié)作濾波器（NCF）推薦器使用一組完全連接或矩陣乘法層來生成推薦。 TensorRT推薦人示例的一些示例包括：
Movie Recommendation Using Neural Collaborative Filter (NCF)
Movie Recommendation Using MPS (Multi-Process Service)
“Hello World” For Multilayer Perceptron (MLP)
3.1. Movie Recommendation Using Neural Collaborative Filter (NCF)
這個示例sampleMovieLens是一個端到端的示例，它導(dǎo)入一個經(jīng)過訓(xùn)練的TensorFlow模型，并為每個用戶預(yù)測最高收視率的電影。這個例子演示了一個簡單的電影推薦系統(tǒng)，它使用了基于多層感知器（MLP）的神經(jīng)協(xié)作濾波器（NCF）推薦器。
What does this sample do?
具體地說，這個示例演示了如何為TensorRT可以加速的MovieLens數(shù)據(jù)集生成權(quán)重。
Where is this sample located?
此示例保存在GitHub: sampleMovieLens存儲庫中的samples/opensource/sampleMovieLens目錄下。如果使用Debian或RPM包，則示例位于
/usr/src/tensorrt/samples/sampleMovieLens。如果使用tar或zip包，則示例位于<extracted_path>/samples/sampleMovieLens。
How do I get started?
有關(guān)入門的更多信息，請參見使用C++示例開始。有關(guān)此示例的詳細(xì)信息，請參閱GitHub: sampleMovieLens/README.md文件獲取有關(guān)此示例如何工作的詳細(xì)信息、示例代碼以及有關(guān)如何運行和驗證其輸出的分步說明。
這個示例sampleMovieLensMPS是一個端到端的示例，它導(dǎo)入經(jīng)過訓(xùn)練的TensorFlow模型，并使用MPS（多進程服務(wù)）為每個用戶預(yù)測最高評級的電影。
What does this sample do?
MPS允許多個CUDA進程共享一個GPU上下文。使用MPS，可以同時調(diào)度來自不同進程的多個重疊內(nèi)核執(zhí)行和memcpy操作，以實現(xiàn)最大利用率。對于資源利用率低的小型網(wǎng)絡(luò)，例如主要由一系列小型MLP組成的網(wǎng)絡(luò)，這對于提高并行性尤其有效。
此示例在功能上與使用神經(jīng)協(xié)作過濾器（NCF）的電影推薦相同，但經(jīng)過修改以支持多個進程中的并發(fā)執(zhí)行。具體地說，這個示例演示了如何為TensorRT可以加速的MovieLens數(shù)據(jù)集生成權(quán)重。
注：目前，sampleMovieLensMPS只支持Linux x86-64（包括Ubuntu和RedHat）桌面用戶。
Where is this sample located?
此示例保存在GitHub: sampleMovieLensMPS存儲庫中的
samples/opensource/sampleMovieLensMPS目錄下。如果使用Debian或RPM包，則示例位于/usr/src/tensorrt/samples/sampleMovieLensMPS。如果使用tar或zip包，則示例位于<extracted_path>/samples/sampleMovieLensMPS。
How do I get started?
有關(guān)入門的更多信息，請參見使用C++示例開始。有關(guān)此示例的詳細(xì)信息，請參閱GitHub: sampleMovieLensMPS/README.md文件獲取有關(guān)此示例如何工作的詳細(xì)信息、示例代碼以及有關(guān)如何運行和驗證其輸出的分步說明。
3.2. Movie Recommendation Using MPS (Multi-Process Service)
這個示例sampleMovieLensMPS是一個端到端的示例，它導(dǎo)入經(jīng)過訓(xùn)練的TensorFlow模型，并使用MPS（多進程服務(wù)）為每個用戶預(yù)測最高評級的電影。
What does this sample do?
MPS允許多個CUDA進程共享一個GPU上下文。使用MPS，可以同時調(diào)度來自不同進程的多個重疊內(nèi)核執(zhí)行和memcpy操作，以實現(xiàn)最大利用率。對于資源利用率低的小型網(wǎng)絡(luò)，例如主要由一系列小型MLP組成的網(wǎng)絡(luò)，這對于提高并行性尤其有效。
此示例在功能上與使用神經(jīng)協(xié)作過濾器（NCF）的電影推薦相同，但經(jīng)過修改以支持多個進程中的并發(fā)執(zhí)行。具體地說，這個示例演示了如何為TensorRT可以加速的MovieLens數(shù)據(jù)集生成權(quán)重。
注：目前，sampleMovieLensMPS只支持Linux x86-64（包括Ubuntu和RedHat）桌面用戶。
Where is this sample located?
This sample is maintained under the samples/opensource/sampleMovieLensMPS
directory in the GitHub: sampleMovieLensMPS
repository. If using the Debian or RPM package, the sample is located at
/usr/src/tensorrt/samples/sampleMovieLensMPS. If using the tar or zip package, the sample is at <extracted_path>/samples/sampleMovieLensMPS.
How do I get started?
有關(guān)入門的更多信息，請參見使用C++示例開始。有關(guān)此示例的詳細(xì)信息，請參閱GitHub:sampleMovieLensMPS/README.md文件獲取有關(guān)此示例如何工作的詳細(xì)信息、示例代碼以及有關(guān)如何運行和驗證其輸出的分步說明。
3.3. “Hello World” For Multilayer Perceptron (MLP)
這個示例sampleMLP是一個簡單的hello world示例，演示了如何創(chuàng)建一個觸發(fā)多層感知器（MLP）優(yōu)化器的網(wǎng)絡(luò)。生成的MLP優(yōu)化器可以加速TensorRT。
Where is this sample located?
此示例保存在GitHub:sampleMLP存儲庫中的samples/opensource/sampleMLP目錄下。如果使用Debian或RPM包，則示例位于/usr/src/tensorrt/samples/sampleMLP。如果使用tar或zip包，則示例位于<extracted_path>/samplesMLP。
How do I get started?
有關(guān)入門的更多信息，請參見使用C++示例開始。有關(guān)此示例的詳細(xì)信息，請參閱GitHub: sampleMLP/README.md文件獲取有關(guān)此示例如何工作的詳細(xì)信息、示例代碼以及有關(guān)如何運行和驗證其輸出的分步說明。
總結(jié)
以上是生活随笔為你收集整理的Recommenders with TensorRT的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。
- 上一篇： Technology Document
- 下一篇： 用TensorRT针对AArch64用户