可信人工智能系统的质量属性与实现:三级研究

作者：李功源; 刘博涵^*; 杨雨豪; 邵栋

来源：软件学报, 2023, 34(09): 3941-3965.

DOI：10.13328/j.cnki.jos.006875

• 人工智能系统
• 可信
• 质量属性
• 实践

人工智能系统以一种前所未有的方式,被广泛地用于解决现实世界的各种挑战,其已然成为推动人类社会发展的核心驱动力.随着人工智能系统在各行各业的迅速普及,人们对人工智能系统的可信性愈发感到担忧,其主要原因在于,传统软件系统的可信性已不足以完全描述人工智能系统的可信性.对于人工智能系统的可信性的研究,具有迫切需要.目前已有大量相关研究,且各有侧重,但缺乏一个整体性、系统性的认识.研究是一项以现有二级研究为研究对象的三级研究,旨在揭示人工智能系统的可信性相关的质量属性和实践的研究现状,建立一个更加全面的可信人工智能系统质量属性框架.收集、整理和分析2022年3月前发表的34项二级研究,识别21种与可信性相关的质量属性及可信性的度量方法和保障实践.研究发现,现有研究主要关注在安全性和隐私性上,对于其他质量属性缺乏广泛且深入的研究.对于需要跨学科协作的两个研究方向,需要在未来的研究中引起重视,一方面是人工智能系统本质上还是一个软件系统,其作为一个软件系统的可信值得人工智能和软件工程专家合作研究;另一方面,人工智能是人类对于机器拟人化的探索,如何从系统层面保障机器在社会环境下的可信,如怎样满足人本主义,值得人工智能和社会科学专家合作研究.

• 单位
  计算机软件新技术国家重点实验室; 南京大学