线上直播 | NVIDIA TensorRT在神经机器翻译中的应用
神經機器翻譯(Neural Machine Translation,簡稱 NMT)存在于各種各樣的消費者應用程序中,包括 web 站點、路標、在外語中生成字幕等。?
NVIDIA 的可編程推理加速器 TensorRT? 幫助優化和生成運行時引擎,用于將深度學習推理應用程序部署到生產環境中。同時,NVIDIA 的 TensorRT? 工具可實現加速神經機器翻譯(NMT)在 GPU 上的應用。谷歌的神經機器翻譯(GNMT)模型在 Tesla V100 GPU 上使用 TensorRT 進行推理的速度比純 CPU 平臺可快 60 倍。?
11 月 14 日(周三)晚 8 點,NVIDIA 開發者社區經理 Ken He 將在 PaperWeekly 直播間為您介紹如何利用 NVIDIA 最新發布的 TensorRT 5.0,加速神經機器翻譯在 GPU 上的應用。
課程概要
早期的 TensorRT? 版本引入了一些用于 RNN 的層,如 LSTM 和 GRU。NVIDIA 最新發布的 TensorRT 5.0 支持新的 RNN 層,如批量矩陣相乘、Constant、Gather、RaggedSoftMax、Reduce、RNNv2 和 TopK。這些層允許應用程序開發人員使用 TensorRT? 輕松加速 NMT 模型中最密集的部分。
本次線上課程,我們將首先回顧神經機器翻譯應用程序的體系結構,然后通過一個示例展示如何在 GPU 上執行此類應用程序的推理。課程具體內容包括:
神經機器翻譯應用概述
TensorRT? 在 NMT 模型中的應用?
TensorRT-NMT 樣例展示
此外,您還可以加入本次活動答疑群,與擁有豐富一線開發經驗的 NVIDIA 開發者社區經理進行實時交流。
嘉賓介紹
何琨
?NVIDIA開發者社區經理
何琨 , NVIDIA 開發者社區經理,7 年 GPU 開發經驗,5 年人工智能開發經驗。
如何報名
?1???點擊閱讀原文填寫報名表,報名成功請截圖保存
?2?? 掃描下方二維碼添加小助手,備注 NVIDIA?獲取直播地址及入群通道
? ? ? ? ??
NVIDIA × PaperWeekly?
NVIDIA TensorRT?
在神經機器翻譯中的應用
NVIDIA開發者社區經理何琨
內容分享√在線Q&A√
活動形式:PPT直播 + 交流群Q&A
?
?活動時間?
11 月 14 日(周三)20:00-21:30
點擊閱讀原文,立刻報名
*掃描下方二維碼獲取直播地址
往期直播
?
從編碼器與解碼器端改進生成式句子摘要
非自回歸神經機器翻譯 + ICLR 2018 論文解讀實錄
騰訊AI Lab涂兆鵬:如何提升神經網絡翻譯的忠實度
微軟亞洲研究院論文解讀:GAN在網絡特征學習中的應用
微軟亞洲研究院吳俁:基于動態詞表的對話生成研究
基于生成模型的事件流研究 + NIPS 2017 論文解讀
*查看更多往期實錄,請點擊PaperWeekly公眾號底部精品欄目菜單。
?
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
▽ 點擊 |?閱讀原文?| 免費報名
總結
以上是生活随笔為你收集整理的线上直播 | NVIDIA TensorRT在神经机器翻译中的应用的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: UC Berkeley提出变分判别器瓶颈
- 下一篇: TensorSpace:超酷炫3D神经网