點擊上方藍字關注我們

結合案件要素序列的罪名預測方法

孫倩¹,?秦永彬^1,2,?黃瑞章^1,2,?劉麗娟³,?陳艷平^1,2

1?貴州大學計算機科學與技術學院，貴州 貴陽 550025

2?公共大數據國家重點實驗室，貴州 貴陽 550025

3?貴州師范學院，貴州 貴陽 550018

?摘要：罪名預測指根據給定的案情事實找到適用罪名。現有罪名預測方法主要使用文本內容進行分類，但無法有效地利用文本中的案件要素。針對現有方法的不足，提出了一種結合案件要素序列的罪名預測方法。該方法將案情事實過程表示為一系列以“行為”為核心且具有時序關系的案件要素序列，然后利用圖卷積神經網絡進行表示，最后融合文本語義特征來預測案件罪名。實驗表明，該方法比現有方法具有更好的預測性能。同時，該方法在對易混淆罪名的區分方面也有較好的表現。

關鍵詞：?案情事實?;?圖卷積神經網絡?;?案件要素?;?文本分類

論文引用格式：

孫倩, 秦永彬, 黃瑞章, 等. 結合案件要素序列的罪名預測方法[J]. 大數據, 2021, 7(6): 30-40.

SUN Q, QIN Y B, HUANG R Z, et al. Charge prediction method combined with case elements sequence[J].BigDataResearch,2021,7(6):30-40.

1 引言

隨著智能司法建設的穩固推進，人工智能技術逐漸滲透到法院審判工作中。法律查詢、信息檢索等智能輔助辦案功能被不斷地探索和實踐，極大地促進了審判體系的現代化。當前，法院在長期的司法實踐中積累了大量的裁判文書，裁判文書是法院的審理過程和結果的載體，其中蘊含了重要的案情信息和隱藏的知識價值。利用裁判文書的案情事實部分，發現隱含的特征信息，是支撐智慧法院輔助辦案的核心，是提升法院工作效率和保障司法公平的重要途徑。

罪名預測是智能司法輔助辦案中的重要任務。在具體的司法實踐中，法官通常從案情事實出發，依據案情特征及其邏輯關系進行判定。在此過程中，案件要素發揮了重要作用。案件要素是指案情事實描述中的關鍵行為詞及與行為相關的要素。

案例1故意殺人罪：“XX市人民檢察院指控，被告人黨某在家中因生活瑣事與其婆婆吳某發生爭執，在爭吵與打斗過程中，黨某持磚頭擊打吳某頭部，致其當場死亡。”

案例2搶劫罪：“XX市人民檢察院指控，被告人王某某竄至X市X區X路X超市門口，持刀對被害人段某某進行威脅，從段某某包內搶走現金400余元后，逃至X小區旁一網吧內，王某某在網吧內被公安民警抓獲。”

案例1和案例2分別是故意殺人罪和搶劫罪的案情事實部分。案例1是由于雙方發生爭執，行為人黨某故意使用兇器擊打被害人吳某頭部，導致被害人吳某死亡。案例2是由于行為人王某某單方面原因，持刀威脅被害人并搶走財物。兩個案例在犯罪起因和經過、適用罪名、包含案件要素等方面均不同。由此可見，案件要素的獲取可以實現案情事實和判決結果的關聯。此外，案情事實中通常包含多個行為動作，其中某些行為對判決結果產生的影響不大。如何找到句子的中心行為要素并建立關聯關系對于案情過程表示有重要影響。

因此，本文將犯罪過程表示為一系列以“行為”為核心且具有時序關系的案件要素，即案件要素序列，并融合文本語義表示，實現結合案件要素序列的罪名預測。本文主要貢獻如下。

● 本文提出了一種結合案件要素序列的罪名預測方法。該方法利用圖卷積神經網絡（graph convolutional network， GCN）模型獲取案件要素序列表示，利用卷積神經網絡（convolutional neural network，CNN）模型獲取文本語義表示，然后融合進行罪名預測。

● 在實驗部分，通過與現有方法進行對比，融合案件要素序列表示能顯著提高罪名預測性能，本文方法的有效性得到驗證。特別地，該方法對易混淆罪名區分也有良好的表現。

2 相關工作

作為法律審判預測的重要任務之一，罪名預測指根據給定的案件預測罪名。在早期罪名預測任務中，大部分工作使用統計分析方法。后來量化分析和關聯分析被提出，但這類方法局限性較強，只針對特定領域的數據集。

隨著機器學習的發展，罪名預測任務可以分為基于特征工程和基于神經網絡的方法。Lin W C等人重點討論了強盜罪和恐嚇取財罪，并定義了21種法律要素標簽，利用這些要素標簽進行罪名分類。Liu Y H等人提出一種基于文本挖掘的方法，使用支持向量機（support vector machine，SVM）進行分類。在人工智能技術的加持下，法律研究逐漸變得智能化、自動化。Jiang X等人通過深度強化學習方法提取事實部分的依據并將該依據信息融入分類模型，從而提高準確性。Kang L Y等人針對刑事案件的事實部分，根據罪名的定義來創建輔助事實以擴充其表示，從而提高預測準確率。Yang X T等人從事實描述中提取出相關片段進行特征增強，將罪名作為監督標簽進行預測。劉宗林等人從事實描述中抽取有助于區分易混淆罪名的指示性罪名關鍵詞，從而解決罪名預測任務中的罪名易混淆問題。除了使用案情事實部分，相關研究者還引入案件相關信息來輔助預測。Luo B F等人提出基于注意力的神經網絡方法，并引入法條信息進行罪名預測。Hu Z K等人針對低頻罪名和易混淆罪名引入10個有代表性的屬性進行區分，利用注意力機制生成與屬性相關的事實表示，依據不同屬性進行預測。He C Q等人提出一種序列增強的膠囊網絡模型來解決低頻罪名，并設計一個注意力殘差單元來提供輔助信息。敖紹林等人利用三元組損失（triplet loss）技術調節CNN，從而更好地學習案件表示的語義特征向量。當前研究大多采用增強案情事實信息或引入輔助信息的方式。通過分析真實案例發現案件要素和行為發生順序對于審判結果有顯著影響，但上述研究沒有考慮該情況。在司法要素方面，黃輝等人提出了基于BERT閱讀理解框架的司法要素抽取方法，該方法建立了輔助問句和裁判文書之間的語義聯系，增強了模型的學習能力。張虎等人通過抽取判決要素，結合法條與語義差異性進行罪名預測。

近年來，圖神經網絡（graph neural network，GNN）被作為圖數據挖掘領域的熱門研究方向之一，相關研究者將圖神經網絡與自然語言處理任務結合并取得了一定的成果。在此過程中，他們提出了文本數據的多種構圖方式，將文本分類任務轉換為圖分類或節點分類任務。Yao L等人將文檔和詞作為圖節點，對文本語料庫構建文本圖，將文本分類問題看作節點分類問題。Zhang Y F等人認為每個文檔都有自己的結構圖，提出一種基于圖神經網絡的歸納式文本分類方法，將文本分類轉換為圖分類任務。Hu L M等人提出一種異質圖注意力（heterogeneous graph attention，HGAT）網絡來學習短文本的表示并進行分類。Huang L Z等人提出了一個基于圖神經網絡的模型，該模型能為每個輸入文本生成一個文本級別的圖。在司法領域，Xu N等人提出一種圖神經網絡來自動學習易混淆法律文本間的細微差別，并設計了一種利用學習到的差異從事實描述中提取有效的區別特征的注意力機制。

上述研究表明，圖神經網絡對文本處理有積極意義。然而在司法研究領域，圖神經網絡的應用較少。由于每個案件文本都可以表示為圖結構，為了更好地捕獲案件事實特征，本文將圖神經網絡與司法數據結合，以此來聚合關聯案件的表示，捕獲更多潛在信息。

3 罪名預測模型結構

本文的罪名預測模型主要分為4個部分，其結構如圖1所示。第一部分，案件要素圖構建。針對案件要素識別中存在的缺乏訓練數據集、識別困難等問題，采用基于BERT（bidirectional encoder representation from transformer）模型的案件要素識別方法進行要素識別，并根據案件要素及要素間的關聯關系構建案件要素圖。第二部分，案件要素序列表示。本文引入雙層圖卷積神經網絡模型對案件要素圖進行建模，捕獲案件間的潛在關系，形成案件要素序列表示。第三部分，文本語義表示。根據模型特點，使用文本卷積神經網絡（TextCNN）模型捕獲文本語義特征表示。第四部分，模型輸出。將文本語義特征與案件要素序列特征融合，并經過全連接（fully connected，FC）層輸出。

圖1???罪名預測模型結構

3.1 案件要素圖構建

在司法案例數據中，每個案件都有自己的圖結構。本文將案件要素作為圖節點，案件要素間的關聯關系作為邊，構建案件要素圖。從案情事實中獲取案件要素需要著重考慮3個問題。首先，刑事案件犯罪過程復雜，案件要素之間關系眾多，如何捕獲要素間的特征關系對于案情事實表示較為關鍵；其次，在案情事實的單個句子中可能出現多個行為要素，極大地增加了面向單一行為要素識別的訓練壓力；最后，由于司法數據的特點，缺乏相關訓練數據集。

針對以上問題，本文使用刑事判決書中的事實部分，經過人工標注形成案件要素數據集。結合中文謂語動詞標注方法的規則及句法要素識別方法[23-24]，本文使用BERT-CRF框架實現案件要素識別。BERT的雙向Transform框架能很好地融合上下文信息，增加的條件隨機場（conditional random field，CRF）層可以捕獲標簽間的概率轉換信息。本文將案件要素識別任務轉換為序列標注任務。

假定案例數據集包含K個案情事實，案情事實d_k包含了N個句子，其中每個句子包含了M個單字。案情事實d_k可以表示為：

本文采用BERT作為主要模型，模型的輸入為對應的詞向量、位置向量、句向量3個嵌入特征。的輸入向量可以表示為：

經過BERT模型后將向量表示輸入CRF層進行標簽預測。本文使用“BIO”標簽體系預測所屬標簽：

其中，“B-ε”表示該元素是案件要素的開始字符；“I-ε”表示該元素是案件要素的中間字符，也可以表示單個詞語；“O”表示該元素不屬于任何類型。ε∈{SUB,ADV,PRE,RAI,TEM,LOC}，“SUB”表示犯罪主體；“ADV”表示犯罪行為描述；“PRE”表示犯罪行為；“RAI”表示犯罪行為導致的結果；“TEM”表示犯罪時間；“LOC”表示犯罪地點。由于單字形式不利于案件要素圖構建，本文在識別模型輸出后增加了一個數據后處理操作，即將當前B標簽位置開始到下一個B標簽位置結束之間的漢字進行拼接。經過數據后處理后，得到被包含在各句子中的案件要素集合，最終形成案情事實dk包含的案件要素：

其中，h表示句子中存在的案件要素數量。進一步地，去除案件要素集合V中重復的案件要素，得到不重復案件要素集合V′：

其中，r表示案例數據集包含的不重復案件要素個數。本文將案件要素作為節點，案件要素之間存在的關聯關系作為邊。具體來說，對于案件要素，本文依據案件要素的共現信息構建邊，邊的權重通過點互信息（pointwise mutual information，PMI）計算，這一過程可以表示為：

其中，e_ij表示案件要素v_i與v_j之間的邊，當v_i=v_j時，e_ij表示當前節點的自環邊。PMI主要用于計算詞語間的語義相似度，計算過程可以表示為：

若為正，則表示語義相關度較高；若為負，則表示相關度較低；若為0，則表示不相關。面向整個案例數據集D，案件要素之間的邊集合E可以表示為：

為了后續獲取節點自身的特征信息，每個案件要素節點都存在一個自環邊。本文將案件要素作為圖節點，案件要素之間的關聯關系作為邊，構建案件要素圖。由于每個案件都有屬于自身的圖結構，案件要素圖G可被認為由K個案件要素子圖組成，即：

3.2 案件要素序列表示

GCN可以利用邊和節點的信息聚合生成新的節點表示，從而對圖結構數據信息進行有效提取，GCN在圖表示學習領域具有強大的優勢。從圖節點角度出發，節點的學習過程是將自身的特征信息傳送給鄰居節點，再將鄰居節點的特征信息收集，以此來聚合節點間的特征信息。結合案件犯罪過程及案件要素圖的構建方式，本文利用雙層GCN模型進行序列建模。

在GCN中當前隱藏層到下一個隱藏層對節點的特征變換可以表示為：

其中，W^(l)、b^(l)分別表示在l層的權重、截距；σ表示非線性變換；X^(l)?表示在l層的節點特征；當層數為零時，X₀表示初始節點狀態；A為鄰接矩陣，可以表示為：

其中，。為了相對保持數據間關系并獲取自身節點特征信息，對鄰接矩陣進行歸一化處理并加入節點自環信息。該過程可表示為：

其中，，I表示單位矩陣；D表示與對應的度矩陣。圖節點的學習過程是將自身的特征信息傳送給鄰居節點，再收集鄰居節點的特征信息，以此來聚合節點間的特征信息。若案情描述d_k∈D中案件要素v_i在第l+1層的特征為，案件要素v_i的所有鄰居節點N_i（包含v_i）在第l層的特征為， v_i與其所有鄰居節點Ni的關系可以表示為：

進行歸一化運算，簡化后的最終表示為：

其中，c_ij表示歸一化因子。案情描述d_k在第l+1層上的特征可以表示為：

根據d_k的案件要素特征集合形成其案件要素序列表示。

3.3 文本語義表示

文本語義表示使用了TextCNN模型，該模型網絡結構簡單且能獲得不同抽象層次的語義信息。TextCNN主要分為輸入層、卷積層、池化層和全連接層。在卷積層進行特征向量計算時，設置不同尺寸的卷積核實現局部特征的捕捉，使得提取到的特征向量具有代表性。

案情事實，其中T表示案情事實中包含的字數，w_t表示d_k的第t個字。本文基于隨機初始化的字向量表將每一個w_t映射為m維向量，即，那么d_k被映射為向量表示X。將X輸入卷積層中，并使用窗口大小為h的濾波器提取特征c，該過程可以表示為：

其中，為濾波器尺寸，b是一個偏置常量，f是非線性函數。本文通過設置不同大小的濾波器得到d_k的多個特征表示。為了獲取有效特征，本文采用最大池化獲得案情事實d_k的文本語義表示。該過程可以表示為：

3.4 模型輸出

圖卷積神經網絡擅于捕獲全局信息，除了挖掘自身節點信息，還可以獲取相鄰節點關系蘊含在圖結構中的其他信息。TextCNN可以較好地捕捉句子的局部信息，但在卷積池化操作中容易丟失文本序列信息。考慮到兩個模型的特點，為了豐富案情事實表示，本文將案件要素序列表示與文本語義表示融合輸入全連接層，以獲取其最終表示p。該過程可形式化表示為：

最后輸出到Softmax層中預測出其類別z，該過程可形式化表示為：

4 實驗與分析

4.1 實驗數據集

本文使用的案件要素數據集含有6類案件要素，共計46 000個標簽。罪名預測數據集來源于貴州省某人民法院的搶劫、搶奪、詐騙、敲詐勒索、危險駕駛和交通肇事6類案件。為了驗證案件要素序列對罪名預測的效果，本文罪名預測數據集中的罪名均為單罪名。本文首先從6類案件中均勻抽取10 000個案件作為實驗原始數據；然后使用正則匹配方式提取案情事實部分，刪除缺失、無效、重復的案情事實文本，修正亂碼等情況，并對數據進行脫敏和清洗；最后將案情事實作為內容，其對應罪名作為標簽，形成罪名預測數據集。該罪名預測數據集涉及6類罪名，共有8 690個案情事實。其中，搶劫罪1 544個、搶奪罪1 546個、詐騙罪1 656件、敲詐勒索罪725個、危險駕駛罪1 547個、交通肇事罪1 672個。

4.2 實驗設置與評價指標

為了更好地體現模型實際表現，在保證標簽分布均勻的情況下，本文將罪名預測數據集按照7:2:1的比例劃分為訓練集、測試集和驗證集。

由于模型輸入層需要輸入一個定長的文本序列，而案情事實長度表達不固定，本文對數據集中的文本分布長度進行統計，發現超過90%的案情文本字符數量集中在區間[100,500]，如圖2所示。綜合分析文本長度分布情況，本文將400個字符作為數據輸入定長。

本文采用機器學習算法中的常用評測指標（即精確率、召回率、綜合評價指標（F1））對實驗結果進行分析和評判。另外，宏平均（macro-average）和微平均（micro-average）也是衡量文本分類器的指標。宏平均是計算每一類別指標值的平均值，微平均是結合不同類別指標值的貢獻來計算平均值。綜合本文罪名預測數據集的類別和數量分布情況，本文實驗結果均使用宏平均計算產生。

圖2???數據集文本長度分布

4.3 結果及分析

為了驗證所提方法的有效性，本文設計了3組對比實驗。實驗一使用本文所提方法與SVM、TextRNN等模型進行對比；實驗二是用于驗證案件要素序列有效性的消融實驗；實驗三使用本文方法在易混淆罪名預測上進行實驗分析。

（1）模型對比實驗

為了驗證結合案件要素序列的罪名預測方法的有效性，本文將所提方法與傳統方法進行對比。TFIDF_SVM采用詞頻逆向文檔頻率（term frequencyinverse document frequency，TFIDF）進行文本特征抽取，再使用SVM進行分類。TextRNN采用雙層長短期記憶（long short-term memory，LSTM）網絡獲取文本特征。采用單層神經網絡結構的FastText對文本進行bi-gram和trigram特征提取。TextCNN采用多個不同尺寸的卷積和最大池化進行分類。本文實現了兩個融合案件要素序列表示的模型，TextRNN_seq表示在TextRNN的基礎上引入案件要素序列表示，TextCNN_seq表示在TextCNN的基礎上引入案件要素序列表示。除了TFIDF_SVM模型，其余實驗模型中的詞嵌入維度均為400維。TextCNN的卷積核尺寸為(2,3,5)。

實驗結果見表1，本文方法的實驗性能明顯優于傳統方法。由于案情事實長度表達不固定，有些案情事實長度較長， TextRNN模型在選取最后一個時間步的向量表示時容易對前面的部分信息造成遺忘。FastText由于模型結構特點，容易造成文本結構信息丟失問題。而TextCNN模型能對文本的局部特征進行有效感知，在此類數據上表現優異。進一步地，本文將案件要素維度的案情事實表示與文本語義表示進行融合實驗。實驗結果表明，與傳統方法相比，融合案件要素序列方法的實驗結果均有一定提升，TextCNN_seq模型取得了最優效果。其主要原因是案件要素序列的加入能獲取案件關鍵特征，結合TextCNN提取的文本語義特征，從多維度豐富案情事實表示，實現案情事實的深層分析。

（2）消融實驗

本文對預測錯誤的案例數據進行輸出分析，發現錯誤案例數據中普遍存在案情事實文本較短、案件行為要素較少的情況。為了驗證行為要素的關鍵性，本文對案件要素序列的行為要素進行了消融實驗。簡單來說，在案件要素圖構建過程中故意丟失全部行為要素后再進行實驗，以達到實驗目的。

為了充分表達行為要素對實驗結果的影響，本文將行為要素作為控制變量共進行了3組不同的實驗。第一組實驗使用TextCNN，表示僅使用案情事實文本特征；第二組實驗使用TextCNN_seq，表示在第一組實驗的基礎上融合了完整的案件要素序列；第三組實驗使用TextCNN_seq_nopre，表示在第一組實驗的基礎上融合了缺失行為要素的案件要素序列。

實驗結果見表2，TextCNN_seq相比， TextCNN_seq_nopre的性能下降明顯。其主要原因是行為要素的缺失導致案件間重復要素急劇減少，在使用圖卷積神經網絡對案件要素序列建模學習時不能很好地聚合關聯案件的特征，使得獲取到的案情事實特征不具備足夠的代表性。由此可見，行為要素的存在可以學習潛在關聯信息，更好地獲取案件關鍵特征。另外，TextCNN_seq_nopre的性能低于TextCNN。由此表明，大量非關鍵特征的加入使得特征變得稀疏，導致實驗性能不佳。

（3）易混淆罪名預測實驗

為了驗證本文所提方法預測易混淆罪名的性能較好，本文選取了兩組常見的易混淆罪名進行實驗，即交通肇事罪和危險駕駛罪。

實驗結果見表3，本文所提方法對易混淆罪名的預測性能有明顯提升。實現結果表明，通過對案件要素的抽取，建模學習案件要素序列表示，在獲取案件獨有表示的同時使犯罪結果更加清晰，這對于易混淆罪名的區分具有積極意義，能提升易混淆罪名的預測性能。

5 結束語

在當前的罪名預測研究中，主要使用文本內容或引入輔助信息進行預測，往往忽略了關鍵案件要素。針對此問題，本文將案件要素引入罪名預測任務，提出了一種結合案件要素序列的罪名預測方法，從案件要素和文本內容維度豐富案情事實表示，深度挖掘案情事實潛在語義結構。本文在單罪名情況下驗證了所提方法的有效性，并凸顯了案件要素序列的重要性。在下一步研究工作中，筆者將在多罪名情況下對所提方法進行探索驗證。

作者簡介

孫倩（1996-），女，貴州大學計算機科學與技術學院碩士生，主要研究方向為自然語言處理。

秦永彬（1980-），男，博士，貴州大學計算機科學與技術學院教授、院長，主要研究方向為大數據處理、云計算、文本挖掘。

黃瑞章（1979-），女，博士，貴州大學計算機科學與技術學院副教授，主要研究方向為信息檢索、文本挖掘。

劉麗娟（1980-），女，貴州師范學院講師，主要研究方向為法學與思想政治教育。

陳艷平（1980-），男，博士，貴州大學計算機科學與技術學院副教授，主要研究方向為人工智能、自然語言處理。

聯系我們:

Tel:010-81055448

? ? ? ?010-81055490

? ? ? ?010-81055534

E-mail:bdr@bjxintong.com.cn?

http://www.infocomm-journal.com/bdr

http://www.j-bigdataresearch.com.cn/

轉載、合作：010-81055537

大數據期刊

《大數據（Big Data Research，BDR）》雙月刊是由中華人民共和國工業和信息化部主管，人民郵電出版社主辦，中國計算機學會大數據專家委員會學術指導，北京信通傳媒有限責任公司出版的期刊，已成功入選中國科技核心期刊、中國計算機學會會刊、中國計算機學會推薦中文科技期刊，并被評為2018年、2019年國家哲學社會科學文獻中心學術期刊數據庫“綜合性人文社會科學”學科最受歡迎期刊。

關注《大數據》期刊微信公眾號，獲取更多內容

總結

以上是生活随笔為你收集整理的结合案件要素序列的罪名预测方法的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。