科研之友
微信
新浪微博
Facebook
分享链接
摘要
图像分类是人工智能技术的重要分支，被广泛应用在安全关键的领域，如自动驾驶、人脸识别、视频监控等。图像分类软件的潜在安全漏洞可能会造成严重的危害，所以保障其质量、评估其鲁棒性的工作尤为重要。考虑到图像分类软件内部逻辑不明确、难以构造预期输出的特点，采用蜕变测试解决它的测试预言问题。同时，考虑到颜色特征的变换对分类结果的影响，比如：绿色背景下穿同色系衣服的人能否被正确分类，提出了基于颜色特征的鲁棒性评估方法，通过将图像进行分割，改变背景图与主体图之间的颜色差异的方式来评估图像分类软件对颜色特征变换的鲁棒性，最后定量分析了鲁棒性指标。
-
单位南京工业大学; 中国人民解放军陆军工程大学
