黑客可以轻松愚弄人工智能算法

作者：西岸

来源：世界科学, 2018, (09): 28.

<正>2018年6月,在国际机器学习大会(ICML)上,一组研究人员展示了他们用3D打印出来的海龟。大多数人都说它看起来就像一只海龟,但人工智能(AI)却不这么认为。很多时候,人工智能把海龟当成步枪。类似的,它将3D打印的棒球视为浓缩咖啡。这些是"对抗性攻击"的例子——巧妙地改变图像、物体或声音,愚弄人工智能,却没有引起人类的警觉。人工智能领域一些重大进步——尤其是机器学习算法,它可以在消化训练数据集以后