一种基于协议格式智能推断的灰盒测试技术

作者：刘华玉; 甘水滔; 尹小康; 柳晓龙; 刘胜利; 李宏亮

来源：计算机工程, 2023, 49(12): 129-145.

DOI：10.19678/j.issn.1000-3428.0066813

• 灰盒测试
• 协议逆向
• 变异策略
• 网络协议
• 漏洞挖掘

通信协议可保障网络应用和物联网设备之间的通信，但其在设计或实现中存在的脆弱性会带来严重的安全威胁和隐患。模糊测试技术作为一种软件安全分析的有效方法，在针对网络协议的脆弱性分析中表现出高效的性能和无可比拟的优势。现有的针对网络协议的灰盒测试技术仍依赖于人工识别协议格式来辅助测试，并且变异策略的设计更偏向于位和字节的变异，忽略了协议消息本身的格式信息，导致在测试时性能不佳。针对上述问题，提出一种基于对齐聚类的智能化协议格式推断模型ProCluster，用于指导灰盒测试中协议状态机构建和种子的变异。该模型通过自动提取协议关键字和推断相应类型，辅助协议灰盒测试模型构建更精准的种子变异策略，从而生成更符合协议规范的测试用例，以此加速提升模糊测试的代码覆盖能力和脆弱路径发现能力。实验结果表明，在对TinyDTLS、OpenSSL等程序的模糊测试中，与典型协议灰盒测试工具AFLNet相比，ProCluster的边覆盖率能够提升75%～182%，并且在TinyDTLS中发现一个缓冲区溢出漏洞样本。

• 单位
  信息工程大学; 清华大学