道德人工智能:基础、原则与设计

作者：孙福海; 陈思宇^*; 黄甫全; 伍晓琪

来源：湖南师范大学教育科学学报, 2021, 20(01): 38-46.

DOI：10.19503/j.cnki.1671-6124.2021.01.005

• 道德人工智能
• 道德主体
• 道德代理
• 机器伦理
• 机器道德

随着技术的快速进步,人工智能的决策和行为开始从外部设定转向内在发展,智能主体逐渐具有不同程度的自适应能力、决策能力和行为能力,它的自主能力也不断增强。出于道德考量,自主决策和行为的人工智能开始被视为道德主体。因此,传统道德如何在智能技术中自主发挥作用就成为一个必须面对的问题;后果论、道义论和美德论都具有解决此问题的潜力。要构建能够进行道德决策的人工智能系统,需要确保人工智能的自主推理能够受人类社会道德和价值观约束,与人类价值观保持一致,担负起决策"责任"。实现有"道德"的人工智能是一个复杂的系统工程,价值敏感设计、透明度设计及道德学习设计是开发道德人工智能的三种重要方法。

• 单位
  华南师范大学; 教育科学学院