基于概率神经网络的在线分类器

作者：吴垒; 于哲舟

来源：计算机技术与发展, 2019, 29(12): 14-20.

• 神经网络
• 分类器
• 概率神经网络
• 在线学习
• 核函数估计

由Specht提出的概率神经网络(PNN)由于训练效率和统计基础而被广泛应用于各个领域。但是由于在PNN中使用Parzen窗口估计概率密度函数(PDF),整个训练数据会存储在模式层中,这无疑增加了存储负担。而且,仅使用一个全局平滑参数的原始PNN不能准确地表示复杂数据集中的局部信息。在对原始PNN进行了研究后,文中提出了一种新在线学习概率神经网络(OL-PNN)。在线学习概率神经网络应用随机梯度上升方法实时更新参数,并采用高斯聚类将训练数据分类为由混合高斯模型表示的若干簇,其中高斯核函数中的每个维度都有各自的平滑参数和中心参数,从而可以减弱由于数据的不均匀分布引起的失真。此外,为了提高学习和表达能力,补偿由聚类算法引起的偏差,神经网络模型添加了一个额外的线性特征层。实验结果表明,该模型明显优于原始PNN,并且与很多流行分类器相当。

• 单位
  吉林大学