直播 | AAAI 2021:自然语言中token-aware的虚拟对抗样本训练
「AI Drive」是由 PaperWeekly 和 biendata 共同發起的學術直播間,旨在幫助更多的青年學者宣傳其最新科研成果。我們一直認為,單向地輸出知識并不是一個最好的方式,而有效地反饋和交流可能會讓知識的傳播更加有意義,從而產生更大的價值。
本期 AI Drive,我們邀請到復旦大學 NLP 組碩士生李林陽,為大家解讀其發表于 AAAI 2021?的最新工作。對本期主題感興趣的小伙伴,1 月 13 日(周三)晚 7 點,我們準時相約 PaperWeekly B 站直播間。
直播信息
自然語言中,對抗樣本訓練能夠顯著的提升模型的性能。這一做法是從計算機視覺領域中防御對抗樣本攻擊時發展出的一類方法,而在自然語言中,我們可以設計出更符合語言序列的對抗訓練方法。這篇文章提出的 token-aware 的虛擬對抗樣本訓練方法,可以生成更為細粒度,“token-aware”的虛擬對抗樣本,在自然語言任務(例如 GLUE benchmark)中取得了較好的性能提升。
論文鏈接:
https://arxiv.org/abs/2004.14543
代碼鏈接:
https://github.com/LinyangLee/Token-Aware-VAT
本次分享的具體內容有:?
對抗樣本攻擊與對抗訓練
自然語言中的對抗樣本攻擊與對抗訓練
目前方法存在的兩個問題:初始化問題和正則化問題
Token-Aware VAT 的做法
實驗結果與分析
總結
嘉賓介紹
?李林陽?/?復旦大學NLP組碩士生?
李林陽,復旦大學 NLP 組 19 級研究生;導師為邱錫鵬教授;目前研究方向為自然語言中的對抗樣本學習。曾以第一作者身份在 EMNLP,AAAI 等會議上發表論文。曾獲復旦大學華為獎學金。
直播地址?& 交流群
本次直播將在 PaperWeekly B 站直播間進行,掃描下方海報二維碼或點擊閱讀原文即可免費觀看。線上分享結束后,嘉賓還將在直播交流群內實時 QA,在 PaperWeekly 微信公眾號后臺回復「AI Drive」,即可獲取入群通道。
B 站直播間:
https://live.bilibili.com/14884511
合作伙伴
????
現在,在「知乎」也能找到我們了
進入知乎首頁搜索「PaperWeekly」
點擊「關注」訂閱我們的專欄吧
關于PaperWeekly
PaperWeekly 是一個推薦、解讀、討論、報道人工智能前沿論文成果的學術平臺。如果你研究或從事 AI 領域,歡迎在公眾號后臺點擊「交流群」,小助手將把你帶入 PaperWeekly 的交流群里。
總結
以上是生活随笔為你收集整理的直播 | AAAI 2021:自然语言中token-aware的虚拟对抗样本训练的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 无线通信AI大赛正式开放评测,50万大奖
- 下一篇: 归纳+记忆:让机器像人一样从小样本中学习