基于信息增益的文本特征权重改进算法

作者：李凯齐; 刁兴春; 曹建军

来源：计算机工程, 2011, (01): 16-18+21.

• 特征分布
• 特征加权
• 文本分类 feature distribution
• feature weighting
• text classification

传统tf.idf算法中的idf函数只能从宏观上评价特征区分不同文档的能力,无法反映特征在训练集各文档以及各类别中分布比例上的差异对特征权重计算结果的影响,降低文本表示的准确性。针对以上问题,提出一种改进的特征权重计算方法tf.igt.igC。该方法从考察特征分布入手,通过引入信息论中信息增益的概念,实现对上述特征分布具体维度的综合考虑,克服传统公式存在的不足。实验结果表明,与tf.idf.ig和tf.idf.igc 2种特征权重计算方法相比,tf.igt.igC在计算特征权重时更加有效。

• 单位
  中央军委装备发展部第六十三研究所; 中国人民解放军陆军工程大学