专家乘积系统的原理及应用

作者：孙征; 李宁

来源：计算机仿真, 2006, (04): 208-211.

• 专家乘积
• 玻耳兹曼机
• 吉布斯采样
• 手写体识别 products of experts
• boltzmann machine
• Gabbs Sampling
• handwriting recongnition

对于相同的一组观察数据,总能找到一些独立的低维专家模型,这些模型只满足对数据的一种约束条件,对于满足这种约束条件的数据,独立模型可以产生较高的概率分布。可以用独立模型概率相乘的方法组合它们,经重新规范化后,形成一个新的高维模型。称这样的系统为专家乘积系统(Product of Experts)。混合高维模型在学习的过程中,利用吉布斯采样和KL偏差的方法,使高维模型获得更理想的概率分布。实验证明,在手写体识别等领域,专家乘积系统是一种非常有效的方法。

• 单位
  中国科学技术大学; 曙光信息产业(北京)有限公司; 曙光信息产业（北京）有限公司