摘要
对于相同的一组观察数据,总能找到一些独立的低维专家模型,这些模型只满足对数据的一种约束条件,对于满足这种约束条件的数据,独立模型可以产生较高的概率分布。可以用独立模型概率相乘的方法组合它们,经重新规范化后,形成一个新的高维模型。称这样的系统为专家乘积系统(Product of Experts)。混合高维模型在学习的过程中,利用吉布斯采样和KL偏差的方法,使高维模型获得更理想的概率分布。实验证明,在手写体识别等领域,专家乘积系统是一种非常有效的方法。
-
单位中国科学技术大学; 曙光信息产业(北京)有限公司; 曙光信息产业(北京)有限公司