针对信道间干扰、天线间同步等问题,提出了基于正交空间调制的认知协作通信系统。该系统采用均值功率分配算法,中继节点和目的节点采用最大似然检测算法。推导了随机中继选择、次优中继选择和最优中继选择3种方案下中断概率的准确闭合表达式,以及在高信噪比区域的渐进表达式,并分析了系统的分集增益。蒙特卡罗仿真结果表明:与随机中继选择相比,次优中继选择和最优中继选择方案可以明显降低系统的中断概率,有效提高系统增益。