摘要

在贝叶斯模型中,往往无法解析计算后验概率,在实践中依赖于近似推理。变分推理(VI,Variational Inference)是重要的确定性近似推理方法,比马尔科夫链蒙特卡罗(MCMC,Markov Chain Monte Carlo)采样具有更高的计算效率,在大数据时代有着显著优势。文章通过贝叶斯分层模型,回顾了经典VI,分析了随机变分推理(SVI,Stochastic Variational Inference)及其在主题模型中的应用,综述了更稳健的VI,概述了概率编程系统的研究进展,并对VI的未来发展趋势做出了展望。