第03课:动手实战中文文本中的关键字提取
前言
關鍵詞提取就是從文本里面把跟這篇文章意義最相關的一些詞語抽取出來。這個可以追溯到文獻檢索初期,關鍵詞是為了文獻標引工作,從報告、論文中選取出來用以表示全文主題內容信息的單詞或術語,在現在的報告和論文中,我們依然可以看到關鍵詞這一項。因此,關鍵詞在文獻檢索、自動文摘、文本聚類/分類等方面有著重要的應用,它不僅是進行這些工作不可或缺的基礎和前提,也是互聯網上信息建庫的一項重要工作。
關鍵詞抽取從方法來說主要有兩種:
第一種是關鍵詞分配:就是給定一個已有的關鍵詞庫,對于新來的文檔從該詞庫里面匹配幾個詞語作為這篇文檔的關鍵詞。
第二種是關鍵詞提取:針對新文檔,通過算法分析,提取文檔中一些詞語作為該文檔的關鍵詞。
目前大多數應用領域的關鍵詞抽取算法都是基于后者實現的,從邏輯上說,后者比前者在實際應用中更準確。
下面介紹一些關于關鍵詞抽取的常用和經典的算法實現。
基于 TF-IDF 算法進行關鍵詞提取
在信息檢索理論中,TF-IDF 是 Term Frequency - Inverse Document Frequency 的簡寫。TF-IDF 是一種數值統計,用于反映一個詞對于語料中某篇文檔的重要性。在信息檢索和文本挖掘領域,它經常用于因子加權。TF-IDF 的主要思想就是:如果某個詞在一篇文檔中出現的頻率高,也即 TF 高;并且在語料庫中其他文檔中很少出現,即 DF 低,也即 IDF 高,則認為這個詞具有很好的類別區分能力。
TF 為詞頻(Term Frequency),表示詞 t 在文檔 d 中出現的頻率,計算公式:
總結
以上是生活随笔為你收集整理的第03课:动手实战中文文本中的关键字提取的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 第06课:动手实战基于 ML 的中文短文
- 下一篇: 第02课:简单好用的中文分词利器 jie