人工智能算法“黑盒”安全风险及治理探讨

作者：叶晓亮; 王丽颖; 李晓婷

来源：互联网天地, 2022, (01): 32-35.

<正>0引言当前我国面部识别、语音识别等人工智能(AI)创新应用已进入世界前列,世界AI大会最新发布的《2020年全球人工智能创新指数报告》列出,我国AI创新指数全球排名第二。但是,安全作为发展的前提,AI算法"黑盒"问题带来的安全风险亟待高度重视。中科院、浙江大学等高校明确指出,由于算法不透明等因素,在医疗诊断、无人驾驶等领域存在各类安全风险重大隐患,