安全AI将成未来网络安全问题新解法

作者：张博卿

来源：网络安全和信息化, 2019, (03): 21.

<正>现如今,无人驾驶、人脸识别、智慧城市、智能家居等各类场景中都在运用AI,而一旦后端控制系统被攻击,出现规模化、连锁式的崩盘,AI失控的后果不堪设想。比如,无人驾驶车要通过识别交通信号标志来决定是通行还是停止,而攻击者可以生成一个欺骗通行标志的对抗样本,在行人眼里是禁止通行,但AI系统会识别成允许通行,这足以造成灾难性的后果,其原理就是通过打造精确的攻击样本欺骗分类器。