LTP 4.0!单模型完成6项自然语言处理任务
背景
語言技術平臺(Language Technology Platform, LTP)是哈工大社會計算與信息檢索研究中心(HIT-SCIR)歷時多年研發的一整套高效、高精度的中文自然語言處理開源基礎技術平臺。
該平臺集詞法分析(分詞、詞性標注、命名實體識別)、句法分析(依存句法分析)和語義分析(語義角色標注、語義依存分析)等多項自然語言處理技術于一體。其中句法分析、語義分析等多項關鍵技術多次在CoNLL國際評測中獲得了第1名。此外,平臺還榮獲了2010年中國中文信息學會科學技術一等獎、2016年黑龍江省科技進步一等獎。?
目前,LTP已被包括清華大學、北京大學、CMU等國內外眾多大學及科研機構在內的600余家研究單位簽署協議使用。同時,向百度、騰訊、華為、訊飛等多家知名公司收費授權。
GitHub的星標達2500余個,Fork數750余個。有效解決了自然語言處理技術入行門檻高,準確率、效率偏低,缺少共享數據和程序資源,重復開發現象嚴重,結果可視化差,錯誤分析困難,較難真正支持各類應用研究等眾多問題。
特色
哈工大SCIR本科生馮云龍等同學在車萬翔教授指導下,于近日對LTP進行了新一輪的全面升級,并推出了LTP 4.0版本。此次升級的主要改進為:?
基于多任務學習框架進行統一學習,使得全部六項任務可以共享語義信息,達到了知識遷移的效果。既有效提升了系統的運行效率,又極大縮小了模型的占用空間?
基于預訓練模型進行統一的表示 ,有效提升了各項任務的準確率?
基于教師退火模型蒸餾出單一的多任務模型,進一步提高了系統的準確率?
基于PyTorch框架開發,提供了原生的Python調用接口,通過pip包管理系統一鍵安裝,極大提高了系統的易用性
性能
下表列出了新舊版LTP在精度、效率和模型大小方面的對比:
為了模型的小巧易用,本次發布的版本基于哈工大訊飛聯合實驗室發布的中文 ELECTRA Small 預訓練模型。后續將陸續發布基于不同預訓練模型的版本,從而為用戶提供更多準確率和效率平衡點的選擇。?
測試環境如下:?
Python 3.7?
LTP 4.0 Batch Size = 1?
CentOS 3.10.0-1062.9.1.el7.x86_64?
Intel(R) Xeon(R) CPU E5-2640 v4 @ 2.40GHz?
備注:速度數據在人民日報命名實體測試數據上獲得,速度計算方式均為所有任務順序執行的結果。另外,語義角色標注與語義依存新舊版采用的語料不相同,因此無法直接比較(新版語義依存使用SemEval 2016語料,語義角色標注使用CTB語料)。
使用
新版LTP采用原生Python實現,僅需運行 pip install ltp 即可安裝使用。調用方式:
from?ltp?import?LTP ltp?=?LTP()?#?默認自動下載并加載?Small?模型 segment,?hidden?=?ltp.seg(["他叫湯姆去拿外衣。"]) pos?=?ltp.pos(hidden) ner?=?ltp.ner(hidden) srl?=?ltp.srl(hidden) dep?=?ltp.dep(hidden) sdp?=?ltp.sdp(hidden)歡迎訪問http://ltp.ai/(點擊文末“閱讀原文”進行跳轉),獲取平臺的源代碼、模型及更詳細的介紹信息,敬請提出反饋意見。?
更多閱讀
#投 稿?通 道#
?讓你的論文被更多人看到?
如何才能讓更多的優質內容以更短路徑到達讀者群體,縮短讀者尋找優質內容的成本呢?答案就是:你不認識的人。
總有一些你不認識的人,知道你想知道的東西。PaperWeekly 或許可以成為一座橋梁,促使不同背景、不同方向的學者和學術靈感相互碰撞,迸發出更多的可能性。?
PaperWeekly 鼓勵高校實驗室或個人,在我們的平臺上分享各類優質內容,可以是最新論文解讀,也可以是學習心得或技術干貨。我們的目的只有一個,讓知識真正流動起來。
?????來稿標準:
? 稿件確系個人原創作品,來稿需注明作者個人信息(姓名+學校/工作單位+學歷/職位+研究方向)?
? 如果文章并非首發,請在投稿時提醒并附上所有已發布鏈接?
? PaperWeekly 默認每篇文章都是首發,均會添加“原創”標志
?????投稿郵箱:
? 投稿郵箱:hr@paperweekly.site?
? 所有文章配圖,請單獨在附件中發送?
? 請留下即時聯系方式(微信或手機),以便我們在編輯發布時和作者溝通
????
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
總結
以上是生活随笔為你收集整理的LTP 4.0!单模型完成6项自然语言处理任务的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 阿克苏到喀什有多远
- 下一篇: MATLAB禁用!!MATLAB教程对高