AI时代，网络更需要“安全阀”！

来源：单片机与嵌入式系统应用, 2021, 21(04): 93.

<正>AI的安全问题今天的AI至少面临三个层面的挑战:第一个层面,是AI技术本身内在的安全风险。要知道,AI所依赖的机器学习实际上是将传统上我们所依赖的正常的逻辑变成"黑箱操作",我们只知道决策输出的结果,而对于神经网络内在工作的逻辑并不是完全掌握的,这是AI与传统上的"自动控制"最大的区别。如果在这个过程中,机器学习的数据被污染,就会影响样本和判断的准确性;机器学习模型自身存在的缺陷,会带来更加隐蔽的安全问题。也就是说,比起传统的信息安全问题,AI内在的安全问题更难于发现和及时应对。