人工智能机器学习模型及系统的质量要素和测试方法

作者：王嘉凯; 刘艾杉; 刘祥龙

来源：信息技术与标准化, 2020, Z1: 16-26.

• 人工智能
• 机器学习
• 模型质量
• 安全性

人工智能算法极易受到噪声、对抗样本的干扰产生不可预期的错误,存在严重的安全隐患。开展人工智能算法和机器学习模型的质量评测对于确保人工智能技术安全、可靠、可控具有重要意义。由北京航空航天大学牵头并联合中国电子技术标准化研究院等多家单位提出T/CESA 1036-2019《信息技术人工智能机器学习模型及系统的质量要素和测试方法》。该标准规定了机器学习模型及系统的质量要素,提供了机器学习模型及系统的质量测试指标体系以及相应的测试方法,适用于机器学习模型及系统的设计、研发及质量评价。

• 单位
  软件开发环境国家重点实验室; 北京航空航天大学