摘   要： 提出了一種基于概念網絡和主題概念樹的文本分類算法。該算法可以根據關聯度傳播模型對未知文本中的一些概念進行一定程度上的語義復合。
關鍵詞： 概念網絡  主題概念樹  文本分類

　　文本自動分類是指對用自然語言寫成的文本按照一定的主題進行分類。隨著信息技術的發展，特別是因特網的發展，使得大量的文本資料需要進行搜集和管理，從而使文本自動分類技術應運而生。文本自動分類技術在網上信息定位、檔案管理、資料搜集等方面有著廣泛的用途，研究自動文本分類算法具有重要的價值。由于傳統的基于關鍵詞的分類方法和基于統計的分類方法沒有考慮文本語義和上下文方面的信息，因此有較大的局限性。近來，人們把語義信息用于文本分類，取得了較好的效果。本文試圖用一種新的工具，即概念網絡和主題概念樹來解決文本分類的問題，它在一定程度上考慮了上下文對文本歸類的影響。
1  概念網絡和主題概念樹
1.1 概念網絡
　　概念網絡是中國科學院自動化所綜合信息系統研究中心在理論和實踐的基礎上對人工智能研究的一種探索，是面向多領域并以解決人工智能基礎問題為目標所開發的知識表達框架體系。它從認知心理學的角度解釋了思維活動的基礎結構，提出了思維活動的心理模型假說。概念網絡將概念作為意義的基本表達單元，依靠概念之間的各種關系形成意義主體相互作用的網絡。從概念網絡的構造方式來說，概念網絡本身是一個知識表達框架體系。
　　概念網絡理論使用屬性、關系和行為三個元素組來表達概念的內涵。屬性是描述概念自身的固有特性，包括屬性類型、屬性名稱和屬性值，用來刻畫不同概念之間的區別；關系體現概念之間的聯系，在關系的作用下，由簡單概念組成復雜概念，由具體概念得到抽象概念。關系的內容包括關系的類型、關系的主體和關系的客體；行為的內容包括行為的名稱、行為的類型、行為產生的前提條件和滿足前提條件下的作用。行為的結果是改變特定語義環境下，概念網絡中相關概念的狀態。行為是將概念網絡和其他語義網絡區分開的標志，也是整個概念網絡認知的源動力。
　　利用在概念網絡理論框架下開發出的概念網絡平臺——概念網絡管理中心（CMC），可以很方便地完成搭建領域知識概念網絡的工作。概念網絡平臺提供了概念的管理、概念關系的管理、概念行為的建立、概念檢索等與概念網絡有關的處理。目前它已經將內核組件化，可以方便于其他系統調用。在概念網絡平臺上，可以裝載某個專業領域，并定義領域中各個概念的屬性、行為以及概念與其他概念之間的關系。
1.2 主題概念樹
　　主題概念樹是針對傳統的主題詞分析法或整詞匹配法提出的。它以概念網絡中的知識表達方法為基礎，把與某個主題概念相關的概念組織成一棵樹，稱為主題概念樹。它把原來分散的無關聯的詞匯在概念的層次上聯系起來，從而解決了文本內容分析的語義基礎。主題概念樹中每一個葉節點都由一個概念或復合概念組成，由概念組成的葉節點如“雷達”、“細菌”等，而復合概念如“無線網絡”、“納米材料”等。這樣，在一篇文章中，如果并不經常出現“納米材料”這樣的詞匯，而是常常討論納米和材料方面的內容，則仍然會在“納米材料”這樣的節點上取得比較高的關聯度。主題概念樹的樹杈有二種類型，它們代表了上位概念與下位概念之間的關系：一是父-子繼承關系，二是屬主-成員的隸屬關系。由于這二類關系的性質不同，故它們的上位概念受下位概念的語義影響也不同。
　　以“計算機”為例，可以建立如圖1所示的主題概念樹。

　　從圖1中可以看到，每一個葉節點都是一個概念（如：計算機，軟件等）或復合概念（如應用軟件，支撐軟件等）。主題概念樹是在概念網絡的基礎上，根據分類的主概念生成的。它的生成過程為：(1)建立某個領域的概念網絡；(2)確定分類的主概念，與概念網絡建立連接；(3)分別取主概念的m層成員概念節點、下位概念節點、語義場概念節點(現在主要考慮同義和近義概念)，把它們存儲到一張表中，這就是主題概念樹。層數m是個經驗值，考慮到概念網絡的構造和文本分類的實際需要，一般層數m取為4。
2  分類算法
　　分類算法的核心是判斷未知文本與主題類別在內容上的相關程度。本算法中，首先用概念網絡對主題概念進行概念擴展，構建主題概念樹。對未知文本先進行子模式化，再進行分詞處理。根據關聯度計算模型求每個概念節點的基礎關聯度。然后，根據“詞義互相激勵原則”計算句中、句間的概念激勵，對前一步計算得到的關聯度進行修正，得到最終的關聯度，并以此為分類標準對未知文本進行識別。對未知文本關聯度的計算可分為圖2所示的幾部分。

　　相關定義：(1)概念容量：文本經過詞切分和去除停用詞后的概念總數。(2)關聯度：表示某個概念節點與未知文本之間的相關程度。(3)子模式：指未知文本中任意完整的標題或句子。(4)激勵值：表示子模式對未知文本屬于某個主題類別的貢獻。
2.1 關聯度計算
　　基于概念網絡和主題概念樹的文本分類算法的步驟是：首先對未知文本進行子模式化和分詞，然后利用概念網絡進行概念定位，作初步統計后根據關聯度計算模型計算基礎關聯度、主題概念樹上復合概念的關聯度和關聯度在語義樹上的傳播。
　　引入符號表示：未知文本Ti中包含Ni個概念和z個子模式，第j個子模式記為S_j。主題概念樹中所有概念和復合概念組成集合D。R_k為主題概念樹中第k個概念C_k的基礎關聯度，n_k為C_k在T_i中出現的次數。用R_c表示復合概念的關聯度，R_b表示復合概念的約束概念的關聯度，R_l表示復合概念的核心概念的關聯度。R_u表示上位概念的關聯度，R_x表示下位概念的關聯度，R_xⁱ表示第i個下位概念的關聯度。
　　(1)概念節點的基礎關聯度計算模型。在文本中，若某主題概念及其相關概念節點出現的次數越多，則文本與該概念的相關度就越大；當分類概念的呈現次數相同時，文本中的概念容量越大，則該概念節點與文本之間的相關度就越小。它們之間存在著線性關系，即關聯度計算的基本公式：
　　

　　未知文本在分詞處理后，每個詞與主題概念樹中的概念節點之間可能存在三種關系：相等、相關或不相關。鑒于這三種不同的情況，在進行基礎關聯度計算時應作不同的處理。本算法采用的加權策略如表1所示。

　　以上述計算機的主題概念樹為例，對概念節點“計算機”來說，如果在未知文本中出現“微型機”，則給“計算機”的呈現次數加0.8。而如果未知文本中出現“軟件”這個概念，則將“計算機”的呈現次數加0.5。
　　(2)復合概念的關聯度計算模型。復合概念的關聯度Rc可由參加復合的子概念的基礎關聯度計算得到。以概念約束為例：
　　

　　(3)主題概念樹上語義關聯度的傳播。主題概念樹上的語義關聯度的傳播模型主要考慮父-子繼承關系的語義關聯度傳播與屬主-成員的隸屬關系的語義傳播。父子繼承關系語義計算模型來自于形式邏輯關于概念的定義：概念＝屬＋種差，這里屬就是上位概念，種差就是下位概念的屬性。因此，繼承型語義傳播模型為：
　　

其中：n是種差總數，通常，在復合概念中n=1。
　　例如，當以“支撐軟件”為下位概念來計算上位概念“軟件”的關聯度時，如果“支撐軟件”與未知文本之間的關聯度為0.03，則可得到“軟件”與未知文本之間的關聯度為0.015。
2.2 局部激勵修正
　　上述的基礎關聯度計算模型中沒有考慮上下文的因素。事實上，在自然語言中，詞作為概念的載體，如果在某個詞鄰近的上下文中經常出現某個類別的詞，則該詞屬于該類別的可能性也就越大。例如，在一個包含“計算機”、“軟件”、“磁盤”等詞匯的子模式中，“病毒”代表生物學上病毒含義的概率很小，而在包含“基因”、“生物”、“細菌”等詞匯的子模式中，“病毒”代表生物學上病毒含義的概率就比較大。也就是說，在小范圍內存在著詞義的互相激勵，在這里稱之為“局部激勵”。
　　下面用局部激勵的原則對基礎關聯度進行修正。將未知文本中的每個子模式對該文本屬于某個類別所作的貢獻，稱為子模式的激勵值，第j個子模式S_j的激勵值記為u(S_j)。
　　子模式的激勵值與下面二個因素有關：①子模式中與主題概念樹上的概念節點相匹配的詞的個數，記為w(S_j)；②每個匹配成功的概念節點在該子模式中的次數，記為q_k(k=1，2，……w(S_j))。
綜合上面的二個因素，子模式激勵值可表示為：

其中：z為子模式的個數，?姿為可以調整的常系數。式(6)即為最后得到的未知文本與概念節點之間的關聯度。用它可進行復合概念的關聯度計算，并可通過語義關聯度傳播模型計算關聯度在主題概念樹上的傳播。最后可得到未知文本與主題概念樹各概念節點之間的關聯度。
　　可以看出，在同一篇文本中，通過公式(6)的修正，每個概念節點的基礎關聯度得到了相同倍數的增強。所以，它并不會影響基礎關聯度的大小順序，與原基礎關聯度存在著一致性。同時，不同的文本，如果信息容量和主題概念樹上的每個概念節點的呈現次數相同，而同類概念在文本中出現的上下文位置不同時，由局部激勵原則進行的修正能使同類概念聚集度高的文本呈現出更高的基礎關聯度，即修正后的基礎并聯度能夠反映同類詞義互相激勵的效果。
2.3 按關聯度進行分層次識別
　　按前述關聯度計算模型得到的關聯度進行排序。在計算過程中，對每一個未知文本，得到了主題概念樹上的每個概念節點與未知文本的關聯度。這樣，對于M個未知文本來說，它們關于概念節點C_k（主題概念樹上的第k個概念節點）的關聯度的大小可以進行比較。按關聯度大小將它們進行排序，就得到未知文本關于某個概念節點的關聯度排名。以此作為識別的標識，按一定的關聯度閾值進行提交。
　　同時，由于在算法中下位概念的呈現對上位概念有貢獻，所以與下層概念節點關聯度較高的文本，與上層概念也有比較高的關聯度。如：“微型機”和“計算機軟件”方面的文本將都屬于“計算機”類別，但屬于計算機類別的文本卻不一定屬于微型機或者計算機軟件類別。對每個層次的概念節點與未知文本的關聯度大小進行排序，在同屬某個大類的情況下，可得到未知文本屬于某個小類的關聯度排名。
3  結束語
　　本文提出了一種利用概念網絡進行語義擴展的自動文本分類算法。提出了主題概念樹的概念，對每個主題，利用主題概念樹作為分類的基礎。文中給出了基礎關聯度的計算模型以及對之進行修正的方法。初步的實驗結果表明，這種分類方法能夠有效地提高與主題概念相關度較高的文本的關聯度系數。同時，對于僅有少量關鍵詞出現，卻與主概念相關度不高的文本，能夠降低其關聯度系數。
參考文獻
1   Maria N.Theme-based Retrieval of Web News.http：//xldb.fc.ul.pt/data/Publications_attach/po25.pdf，2000
2   Rosso P.Text Categorization and Information Retrieval Using WordNet Senses.http：//www.fi.muni.cz/gwc2004/proc/110.pdf，2003
3   李莼.基于語義相關和概念相關的自動分類方法研究.計算機工程與應用，2003；(12)
4   高一波.一種基于概念的知識表達體系.計算機信息學報，2004；21(9)
5   解沖鋒，李星.基于序列的文本分類算法.軟件學報，2002；13(4)
6   龐劍鋒，卜東波，白碩.基于向量空間模型的文本自動分類系統的研究與實現.計算機應用研究，2001；18(9)