基于改进RetinaNet的宫颈异常细胞检测算法

作者：刘润坤; 党世杰; 张洪远; 牛银银; 米贯勋; 李三华; 陈振鑫; 赵凌霄^*; 李鹏

来源：中国激光, 2023, 50(15): 109-118.

• 医用光学
• 宫颈细胞病理图像
• 目标检测
• 小目标
• 特征融合
• 注意力机制

宫颈异常细胞特征细微难以提取、小目标容易漏检、细胞边界回归不准确导致异常细胞检测精度不高，鉴于此，本文提出了一种结合注意力的全尺度特征融合RetinaNet(AFF-RetinaNet)宫颈异常细胞检测算法。首先，采用ResNeSt-50作为特征提取网络提取宫颈异常细胞的细微特征；其次，引入平衡特征金字塔（BFP）结构，对所有特征层进行全尺度融合，增强小目标的语义信息，并利用BFP中的非局部注意力模块获取图像的全局信息，以进一步增强特征空间的语义信息；最后，采用CIoU Loss作为回归分支的损失函数，以提高对异常细胞边界回归的准确率。另外，针对实际应用场景，基于AFF-RetinaNet算法实现了全视野宫颈细胞病理学图像（WSI）推理流程，并基于该推理流程对WSI中的异常细胞进行了检测。AFF-RetinaNet在宫颈异常细胞数据集上的平均精度均值（mAP）为83.4%，其中对小目标的mAP值（mAP-s）达到了24.4%，相较于基准RetinaNet算法分别提高了3.2个百分点和10.8个百分点。基于AFF-Retina的WSI推理结果在感兴趣区域中的mAP为70.8%。实验结果表明：AFF-RetinaNet算法可以增强对小尺寸异常细胞的检测能力，有效提升宫颈异常细胞的检测精度。基于AFF-RetinaNet的宫颈WSI推理流程可辅助医生快速定位高分辨率宫颈WSI中的异常细胞，有望减轻医生的阅片负担。

• 单位
  中国科学院苏州生物医学工程技术研究所; 中国科学技术大学; 生物医学工程学院