随着用户数量和移动通信规模不断增大,如何消除信号干扰和抑制噪声是制约5G移动通信性能的关键问题。文章针对MIMO系统中的VBLAST系统模型,首先引入了迫零检测算法,并设计了改进的最小均方误差算法,实现了干扰消除和噪声抑制的较好平衡。最后,通过仿真比较了各自的性能,理论和仿真均表明所设计的算法达到了预期效果。