基于OAMP算法辅助稀疏连接神经网络的MIMO信号检测

作者：申滨; 阳建; 涂媛媛

来源：信号处理, 2023, 39(05): 910-918.

DOI：10.16798/j.issn.1003-0530.2023.05.015

• 检测
• 深度学习
• 正交近似消息传递
• 初始解
• 稀疏连接

最大似然检测（Maximum likelihood detection,ML）是传统多输入多输出（Multi-input Multi-output,MIMO）信号检测中的最优算法，但是受到天线数量、收发天线比例以及调制信号的约束，致使其仅适用于天线数量少、天线比例较低且调制信号阶数较低的场景。作为一种新型的解决方案，目前基于深度学习（DL）的信号检测算法得到了广泛关注，但同样存在收发天线规模相近时检测性能恶化问题。该文将正交近似消息传递（OAMP）算法与稀疏连接神经网络（ScNet）结合成为可训练的网络结构，提出一种新的适用于MIMO系统上行链路的信号检测算法，称作ScNet-OAMP。该算法通过神经网络提供精确的信号传输参数初始解，改善OAMP过程的线性估计和非线性估计，由此增强其降噪能力，达到提高检测精度的目的，相比于ScNet和OAMP，其能够在同等实验参数下获得最佳检测性能。实验结果表明，此算法适用于QPSK、4QAM及16QAM等不同调制信号，能够处理不同比例收发天线及数量规模的系统配置，尤其是在收发天线数量相近的情况下亦能表现出较好的性能，并且在10-3误码率上有至少0.5 dB，甚至2.2 dB以上的性能增益。

• 单位
  重庆邮电大学; 通信与信息工程学院